在担任律师近 2 年之后，很少有案件能激怒哈米德·伊斯梅尔，但当他辩护的一名男子在马来西亚沙巴州的人工智能工具的帮助下被判刑时，他大吃一惊。
伊斯梅尔知道沙巴和邻近砂拉越的法院正在测试用于量刑建议的人工智能工具，作为全国试点的一部分，但对于在律师、法官和公众完全理解之前使用该技术感到不安。 他说，该技术的使用没有经过适当的咨询，该国的刑法也没有考虑到这一点。
“我们的《刑事诉讼法》没有规定在法庭上使用人工智能……我认为这是违宪的，”伊斯梅尔说，并补充说，人工智能建议对他的客户因持有轻微毒品罪而判处的刑罚过于严厉。
沙巴和砂拉越法院试用了由砂拉越信息系统公司开发的软件，这是一家州政府公司，该公司当时表示，它在此过程中进行了磋商，并采取措施解决了一些提出的问题。 全球范围内，人工智能在刑事司法系统中的使用正在迅速增长，来自流行的 DoNotPay 聊天机器人律师 移动应用程序适用于爱沙尼亚的机器人法官裁决小额索赔、加拿大的机器人调解员和中国法院的人工智能法官。
当局表示，基于人工智能的系统使判决更加一致，可以快速、廉价地清理积压案件，帮助法律诉讼各方避免冗长、昂贵和压力大的诉讼。 超过三分之一 在研究公司 Gartner 去年的一项全球调查中，有政府受访者表示，他们计划增加对人工智能驱动系统的投资，包括跨行业的聊天机器人、面部识别和数据挖掘。
这个月， 马来西亚联邦当局 旨在结束他们在全国范围内对人工智能量刑工具的审判，他们表示“可以提高判决质量”，尽管尚不完全清楚它们将如何在法庭上使用。
马来西亚首席大法官的一位发言人表示，在法庭上使用人工智能“仍处于审判阶段”，拒绝进一步置评。
偏见，缓解因素
批评人士警告说，人工智能可能会根深蒂固 放大偏差 反对少数族裔和边缘化群体，称该技术缺乏法官权衡个人情况或适应不断变化的社会习俗的能力。
“在量刑时，法官不只是看案件的事实——他们还考虑减轻处罚的因素，并运用他们的自由裁量权，”伊斯梅尔告诉 汤森路透基金会. “但人工智能不能使用自由裁量权。”
马来西亚人权律师查尔斯·赫克托·费尔南德斯 (Charles Hector Fernandez) 说，考虑到加重和减轻处罚的因素“需要人的头脑”。
“句子也随着时代的变化和舆论的变化而变化。 我们需要更多的法官和检察官来处理越来越多的案件——人工智能无法取代人类法官，”他补充说。
为了解决对其人工智能软件可能导致量刑偏见的担忧，砂拉越信息系统公司表示已从算法中删除了“种族”变量。
但是，政策智库国库控股研究所 2020 年关于该工具的一份报告称，尽管“此类缓解措施很有价值，但它们并不能使系统变得完美”。
它还指出，该公司只使用了从 2014 年到 19 年的五年数据集来训练算法，“与全球努力中使用的广泛数据库相比，这似乎有些有限”。
无法联系到砂拉越信息系统就其是否已扩展其数据库发表评论。 国库控股研究所对沙巴和砂拉越案件的分析显示，法官在三分之一的案件中遵循了人工智能量刑建议，根据两国试点的条款，所有案件都涉及强奸或持有毒品。
一些法官根据减刑因素减少了建议的刑罚。 其他人则因为不能起到“足够强大的威慑作用”而变得强硬。
‘不透明算法’
新加坡国立大学法学教授西蒙·切斯特曼表示，技术确实具有提高刑事司法系统效率的潜力。
但他补充说，它的合法性不仅取决于所做出决定的准确性，还取决于做出决定的方式。
“许多决定可能会适当地交给机器，”政府项目 AI Singapore 的高级主管切斯特曼说。 “[But] 法官不应将自由裁量权外包给不透明的算法。”
代表律师的马来西亚律师协会也对人工智能试点表示担忧。
当首都吉隆坡的法院于 2021 年年中开始使用它对 20 种犯罪进行量刑时，该委员会表示“根本没有给出指导方针，我们也没有机会从刑法从业者那里获得反馈”。
在沙巴，伊斯梅尔对他的委托人通过人工智能工具提出的量刑建议提出上诉，法官遵循了这一建议。 但他表示，许多律师不会提出挑战——可能会谴责他们的客户被判过分严厉的判决。
“人工智能就像一位高级法官，”伊斯梅尔说。 “年轻的县长可能认为这是最好的决定，毫无疑问地接受它。”
这篇文章首次出现在 汤森路透基金会新闻.
阅读更多