费城是否应该依赖算法进行保释改革？ - 彭博社

在2016年民主党全国大会期间，警察在费城的抗议活动中站岗。约翰·敏奇洛/AP正如在 许多城市中一样，费城的监狱人满为患，里面充满了未被判定有罪的人。这些人被关在监狱里是因为他们无法支付保释金，这是一个循环问题， 给 城市造成了数百万的损失。目前，费城的监狱超出了约一千名囚犯的容量，其中超过一半的人尚未被判定有罪， 根据 Newsworks的报道。为了释放更多的审前囚犯，费城的立法者正在讨论使用一种新的风险评估算法，该算法将决定 谁应该被释放以及保释金额应该设定多高。

彭博社城市实验室新泽西到纽约市的通勤因火车电线问题和公交延误而受到影响在创纪录的炎热夏季之后，空调强制要求的压力增加研究发现，城市地区的降雨量比乡村边缘地区更多芝加哥在2025年前停止招聘，因为赤字超过10亿美元新项目的支持者认为，数据驱动的系统比保释专员的主观决定更公平。但批评者认为，该算法并不是解决这个问题的最佳方案，并可能因个体来自的社区的警务模式而不公平地拒绝释放某些人。反对者声称，该算法的 明显权衡因素，包括过去的逮捕记录、年龄、性别和就业历史，可能会根据个体无法控制的特征或 多年前的错误对个体进行惩罚。

“那是一个代价。这是你可能选择支付的代价，”算法的创造者、宾夕法尼亚大学的犯罪学教授理查德·伯克斯在最近的市议会听证会上说，根据技术博客 Technical.ly的报道。目前看来，包括种族和邮政编码在内的一些因素将被 排除在算法之外，但伯克斯表示，这可能会影响结果。

“这是通过计算机模型进行的种族定性。”“你愿意为了一个种族中立的工具，交易多少次加重攻击、多少起凶杀、多少起强奸？”贝尔克斯说给 新闻工作者。批评者指出，可能有更好的方法来释放城市过度拥挤监狱中的人。

“我们可以在没有算法的情况下做到这一点，”费城的资深刑事辩护律师保罗·赫茨内克说。“我们要做的就是问，‘这是一种严重犯罪吗？这次零售盗窃或持有可卡因是否需要监禁？’”

赫茨内克认为，警察偏见和在大多数黑人社区中集中进行的强力执法可能会扭曲算法对罪犯形象的计算。研究发现，例如，费城警察经常在没有满足 “合理怀疑”标准的情况下拦截少数族裔。

“这是通过计算机模型进行的种族定性，”赫茨内克说。“他们通过查看人们的地址或其家庭的过去逮捕记录，创造出被认为更可能犯罪的人的类别，剥夺了个人所享有的宪法保护。”

哪些因素将被纳入，以及每个因素在算法中的权重将 仍待决定。到目前为止，当地媒体尚未能够获得 完整的细分，以了解算法中使用的因素。这种缺乏透明度令人担忧。“问题在于，非统计学家无法对该产品进行批判性消费，”数据伦理分析师大卫·罗宾逊对 City & State说。最近的调查报告发现类似的程序存在种族偏见。最近的 ProPublica 调查发现，佛罗里达州布劳沃德县的风险评估算法对非裔美国人存在偏见，常常将低级犯罪者标记为比被控更严重罪行的白人罪犯“更有风险”。

除了该程序可能存在的问题外，赫茨内克还担心这种预测分析可能会破坏对刑事司法系统所保障的公民自由至关重要的假设。

“如果你在保释听证会上，保释专员的算法查看你父母或兄弟姐妹的逮捕历史，你就完全破坏了正当程序，”赫茨内克说。“你将因为你的出身而被视为风险。你不再被假定为无罪。”