[ad_1]
曼谷，4 月 12 日——哈米德·伊斯梅尔 (Hamid Ismail) 在担任律师近 20 年后，很少有案件激怒哈米德·伊斯梅尔，但当他辩护的一名男子在马来西亚沙巴州的人工智能工具的帮助下被判刑时，他大吃一惊。
伊斯梅尔知道沙巴和邻近砂拉越的法院正在测试人工智能工具以作为全国试点的一部分，以提供量刑建议，但对于在律师、法官和公众完全理解之前使用该技术感到不安。
他说，该技术的使用没有经过适当的咨询，该国的刑法也没有考虑到这一点。
“我们的刑事诉讼法没有规定在法庭上使用人工智能……我认为这是违宪的，”伊斯梅尔说，并补充说，人工智能建议对他的当事人进行轻微持有毒品指控的判决过于严厉。
沙巴和砂拉越法院试用了由砂拉越信息系统公司开发的软件，这是一家州政府公司，该公司当时表示，它在此过程中进行了磋商，并采取措施解决了一些提出的问题。
全球范围内，人工智能在刑事司法系统中的使用正在迅速增长，来自流行的 DoNotPay 聊天机器人律师 移动应用程序适用于爱沙尼亚裁决小额索赔的机器人法官、加拿大的机器人调解员和中国法院的人工智能法官。
当局表示，基于人工智能的系统使判决更加一致，可以快速、廉价地清理积压案件，帮助法律诉讼各方避免冗长、昂贵和压力大的诉讼。
在研究公司 Gartner 去年的一项全球调查中，超过三分之一的政府受访者表示，他们计划增加对人工智能驱动系统的投资，包括跨行业的聊天机器人、面部识别和数据挖掘。
本月，马来西亚联邦当局的目标是结束对人工智能量刑工具的全国性试验，他们表示“可以提高判断质量”，尽管尚不完全清楚它们将如何在法庭上使用。
马来西亚首席大法官的一位发言人表示，在法庭上使用人工智能“仍处于审判阶段”，拒绝进一步置评。
偏见，缓解因素
批评人士警告说，人工智能可能会根深蒂固， 放大偏差 反对少数族裔和边缘化群体，称该技术缺乏法官权衡个人情况或适应不断变化的社会习俗的能力。
“在量刑时，法官不只是看案件的事实——他们还考虑从轻的因素，并运用他们的自由裁量权。 但人工智能不能使用自由裁量权，”伊斯梅尔告诉汤森路透基金会。
马来西亚人权律师查尔斯·赫克托·费尔南德斯 (Charles Hector Fernandez) 说，考虑到加重和减轻处罚的因素“需要人的头脑”。
“句子也随着时代的变化和舆论的变化而变化。 我们需要更多的法官和检察官来处理越来越多的案件； 人工智能无法取代人类法官，”他补充道。
为了解决对其人工智能软件可能导致量刑偏见的担忧，砂拉越信息系统公司表示已从算法中删除了“种族”变量。
但是，政策智库国库控股研究所（KRI）在 2020 年发布的一份关于该工具的报告称，尽管“此类缓解措施很有价值，但它们并不能使系统变得完美”。
它还指出，该公司仅使用了 2014-19 年五年的数据集来训练算法，“与全球努力使用的广泛数据库相比，这似乎有些有限”。
无法联系到砂拉越信息系统就其是否已扩展其数据库发表评论。
KRI对沙巴和砂拉越案件的分析显示，法官在三分之一的案件中遵循了人工智能的量刑建议，所有这些案件都涉及根据两国试点条款的强奸或持有毒品。
一些法官根据减刑因素减少了建议的刑罚。 其他人则因为不能起到“足够强大的威慑作用”而变得强硬。
‘不透明算法’
新加坡国立大学法学教授西蒙·切斯特曼说，技术确实具有提高刑事司法系统效率的潜力。
但他补充说，它的合法性不仅取决于所做出决定的准确性，还取决于做出决定的方式。
“许多决定可能会适当地交给机器。 （但是）法官不应将自由裁量权外包给不透明的算法，”政府项目 AI Singapore 的高级主管切斯特曼说。
代表律师的马来西亚律师协会也对人工智能试点表示担忧。
当首都吉隆坡的法院于 2021 年年中开始使用它对 20 种犯罪进行量刑时，该委员会表示“根本没有给出指导方针，我们也没有机会从刑法从业者那里获得反馈”。
在沙巴，伊斯梅尔对他的委托人通过人工智能工具提出的量刑建议提出上诉，法官随后跟进。
但他表示，许多律师不会提出挑战——可能会谴责他们的客户被判过分严厉的判决。
“人工智能就像一位高级法官，”伊斯梅尔说。
“年轻的地方法官可能认为这是最好的决定，并且毫无疑问地接受它。” ——汤森路透基金会
[ad_2]阅读更多