争议中心的前警察与犯罪预测技术 - 彭博社

在卡姆登县警察局的实时战术行动情报中心，一名分析师正在检查 incoming 数据，试图预测警员应该部署到哪里。

摄影师：米莎·弗里德曼（Misha Friedman）为彭博社拍摄布雷特·戈德斯坦（Brett Goldstein）喜欢讲一个故事。故事开始于2010年的一个星期五晚上，他坐在芝加哥街头一辆黑暗的皇冠维多利亚车里，仔细研究地图。戈德斯坦是芝加哥警察局的一名指挥官，负责一个小单位，利用数据分析预测某些类型的犯罪在任何时间可能发生的地点。当天早些时候，他的计算机模型预测某个南区街区暴力事件的概率增加。现在他和他的搭档在那儿，戈德斯坦开始怀疑自己。

“看起来并不应该是枪击的目标，”他回忆道。“房子看起来很好。所有东西都修剪得很好。你会期待，如果你在这个社区，你会寻找废弃的建筑，寻找卖毒品的人。我没有看到这些。”

尽管如此，他们还是进行了监视。戈德斯坦的妻子刚刚生下他们的第二个孩子，他在办公室忙碌了一天后感到疲惫。他开始打瞌睡。戈德斯坦的搭档争辩说数据一定是错误的。晚上11点，他们离开了。

几个小时后，戈德斯坦被他的黑莓手机震动声惊醒。发生了枪击事件——就在他驻扎的街区。“这让我印象深刻，因为我们认为我们不应该在那儿，但计算机认为我们应该在那儿，”戈德斯坦说。他将这次险些错过的事件视为他对未来执法愿景的证明。“我确实相信警察的直觉。但我也相信增强他或她的直觉，”他说。

戈德斯坦在2010年所占据的芝加哥街区。摄影师：米莎·弗里德曼，彭博社在南区的那个晚上七年后，戈德斯坦穿上了一套灰色西装和一些空气动力学太阳镜，从曼哈顿中城的酒店出发，前往新泽西。今年春天，他创办了CivicScape，一家向警察部门销售犯罪预测软件的科技公司。九个城市正在使用该软件或正在实施中，其中包括全国35个最大城市中人口最多的四个城市。部门每年支付3万美元在人口少于10万的城市使用该软件，而在超过100万的城市则支付15.5万美元。戈德斯坦想去看看两个进展最远的客户——新泽西州卡姆登和林登的警察部门。

戈德斯坦喜欢强调自己缺乏魅力，但他非常适合成为警察部门的推销员。在芝加哥，他在七年的政府生涯中，从巡警升至城市首席数据官，并经常在与警察的对话中插入一些街头的战争故事。他还在推销每个部门如今都在追求的东西：技术的复杂性。刑事司法系统产生大量数据，而新的计算方法提供了将任何数字池转化为有用信息的可能。如今，几乎每个主要的警察部门都在使用或曾经使用某种形式的商业软件来预测犯罪，无论是为了确定哪些街区需要加强警力，还是甚至预测哪些人最有可能卷入其中。技术正在改变警务的手段。

并不是每个人都在期待中摩拳擦掌。许多警察仍然将所谓的预测性警务软件视为胡言乱语。执法之外的批评者认为这实际上是具有破坏性的。这些程序用来预测犯罪模式的历史信息并不是客观事实的中立叙述；它们反映了社会经济差异和对黑人社区的强力执法。计算机科学家将预测性警务视为自动决策如何被滥用的典型案例。其他人则嘲笑它为伪科学。“制造无法解释的‘威胁’评估的系统在宪法执法中没有有效的立足之地，”包括美国公民自由联盟、布伦南正义中心和民主与技术中心在内的民权和技术协会在去年夏天的一份声明中写道。

卡姆登警官维达尔·里维拉在他成长的社区巡逻。摄影师：米莎·弗里德曼，彭博社过去几年中警察枪击事件的麻木进展提醒人们，当警察将某些社区视为不成比例的威胁时，所面临的风险。在6月底的八天内，陪审团未能定罪在明尼苏达州、俄亥俄州和威斯康星州杀害黑人男性的警官。在每个案件中，警官的辩护都依赖于他对危险的感知。使用预测性警务软件的最坏情况是将警官部署到目标区域，保持警觉，导致他们在本应是例行接触的情况下变得暴力。

金斯坦在新泽西访问的警察部门在他最近的行程中并没有对公平性提出任何质疑——但仍然存在怀疑。他刚开始与林登警察局的一群高级官员交谈时，负责该市采购流程的男子就坦言他对软件供应商那些听起来神奇的承诺感到非常谨慎。金斯坦点头表示赞同。他说，当他还是警察时，最讨厌听“供应商的废话”。金斯坦用一种唱歌的语调开始说：“哦，你们将拥有一辆飞行汽车，它会拦住人们，你们将成为超级警察！”他们会向你承诺任何事情。

“你所面临的是警察与盗贼之间的感知棋局”

金斯坦的公司确实做出一个不寻常的承诺，他们认为这可以同时满足执法和民权领域的怀疑者。其他为刑事司法环境开发预测软件的公司出于竞争原因保密他们的算法。今年三月，CivicScape 在GitHub上发布了他们的代码，这是一个计算机程序员发布和评论彼此作品的网站。这是一个前所未有的举动，立即引起了关注警察科技行业的人的轰动。“他们正在做我多年来一直在呼喊的所有事情，”华盛顿特区大学法学院的教授、即将出版的书籍《大数据警务的崛起》的作者安德鲁·弗格森说。

在网上发布计算机代码并不能消除对预测性警务的担忧。人们仍然担心CivicScape如何应对被认为的不足之处，还有一个大问题是警察部门如何利用它所产生的情报。但比起其他任何公司，CivicScape已经将自己转变为一个测试案例，探讨执法部门以透明和负责任的方式使用人工智能意味着什么——以及这是否真的可能。

43岁的戈德斯坦并不是一开始就想当警察。他曾是在线餐厅预订公司Open Table的信息技术总监，但在911事件后，他开始质疑这份工作的意义。2004年，戈德斯坦看到芝加哥警察局入学考试的广告。“我想，‘参加警察考试有什么坏处？我喜欢参加考试，’”他回忆道。戈德斯坦参加了考试，表现良好，并在2006年离开了Open Table。

在担任了13个月的巡警后，戈德斯坦开始致力于开发计算机模型，以预测犯罪发生的地点。后来他被提升为指挥官，负责一个专注于这一策略的新单位。根据迈克尔·马斯特斯的说法，该单位提供的情报远远超过之前使用的情报。马斯特斯在警校时期首次遇见戈德斯坦，当时他是市长理查德·M·戴利的顾问，后来转到警察局，现在在CivicScape工作。“我们远远领先于我们的时代，”马斯特斯说。戈德斯坦恰好处于将技术融入日常警务工作的最佳位置。“你不会有那些曾经是警察、并且在警车里工作的人来构建这些工具，”马斯特斯说。

戈德斯坦在他的办公室。摄影师：米莎·弗里德曼为彭博社像任何在缓慢机构中快速上升的人一样，戈德斯坦是一个极具争议的人物。关于他在市政厅有一些家庭关系的传言不断，他在建立任何硬汉信誉方面遇到了困难——即使在他 逮捕了一名在戈德斯坦家人面前杀死一名男子的枪手 的休息日。长期的警官们同时认为，预测犯罪的广泛模式很简单，这些模式始终集中在城市的同一地区，但预测具体的犯罪行为却是不可能的。在一个受欢迎的匿名博客“第二城市警察”上，戈德斯坦被称为金童，他的单位被称为水晶球单位。这两者都不是赞美。戈德斯坦的批评者会幸灾乐祸 当在他目标区域一街区外发生枪击事件时，他们偶尔还会在总部当面责骂他。

戈德斯坦承认他未能赢得批评者的支持，他的单位在2011年部门负责人辞职时解散。他承认他从未想出一种严格的方法来测试他的技术对犯罪率的影响。戈德斯坦转到市政厅，然后在2013年离开政府。从那时起，戈德斯坦经营了一家风险投资基金，担任学术职位，并在“美国代码”董事会任职，该非营利组织致力于帮助政府使用技术。随着水晶球单位的解散，芝加哥辩论双方的人们都退回到他们先入为主的观念中。

卡姆登县警察局的实时战术操作情报中心是你对执法中技术感受的罗夏墨迹测试。RT-TOIC，如其所称，是一个没有窗户的房间，部门在此运行其技术倡议。当戈德斯坦本月访问时，未来派的光泽因建筑空调的故障而受到削弱——只有一堆全力运转的地面风扇才能使其可居住。尽管如此，部门的领导层认为RT-TOIC代表了未来的警务，不仅在卡姆登，而是在任何地方。

大约有十几个人在里面工作，他们大多数坐在显示四到六个电脑屏幕的工作站前。墙上显示着地图和监控摄像头拍摄的画面的大屏幕。分析师监控社交媒体，寻找提及已知犯罪的账户。

卡姆登在三个月前将CivicScape整合进RT-TOIC。该公司的地图始终在运行，每小时更新一次以反映最新数据。当目标变化时，分析师会将屏幕切换到指向那些街区的监控摄像头。警员将RT-TOIC中发生的事情传达给街上的警察。巡逻车里的家伙们不知道命令是源于某种新奇的数学、上级官员的判断，还是两者的混合。凯瑞·耶里科，部门的刑事情报与分析主任表示，这种模糊性是故意的。

卡姆登的杰里米·梅克中尉。摄影师：Misha Friedman 为彭博社在戈德斯坦访问的那天，耶里科和值班指挥官杰里米·梅克中尉正在讨论一个 CivicScape 标记的区域。梅克立即认出了这个区域——他的警员们曾说那里毒贩的活动正在加剧。他们已经部署了额外的警员。

耶里科和梅克都不知道部门的计算机和人类是如何聚焦到同一个地点的。CivicScape 预测系统的核心是一系列神经网络。神经网络之所以得名，是因为它们的设计模仿了人脑中神经元的结构，能够检查标记了输入和结果的大数据集。然后，它们确定可以用来预测在面对新数据时会发生什么的模式。在 CivicScape 的案例中，输入是客户提供的历史数据集，结果是过去的犯罪记录。

神经网络受到处理巨大数据集的计算机科学家的青睐，但它们的一个缺点是其不透明性。与人类有意识地告诉系统每个因素该考虑什么的算法不同，神经网络会找到自己的路径，无法有效地向人类解释它们所做的事情。这可能使 CivicScape 的透明度比其他使用不同类型算法的预测警务软件更低。

卡姆登的警察局长斯科特·汤普森表示，他没有听到关于透明度的任何批评。就其本身而言，CivicScape 表示其开放性来自于邀请讨论其模型使用的 数据类型。例如，该公司决定完全不使用大麻持有的逮捕记录，因为广泛的研究显示这些逮捕存在种族差异。

Kristian Lum 和 William Isaac，研究人员，他们为人权数据分析小组编写了自己的统计模型，展示了偏见在预测性警务中的运作方式，他们检查了代码。他们都将 CivicScape 的举动描述为积极，但在看到公司如何落实之前，保留了赞美。

Isaac 说，CivicScape 的代码库一个显著的缺陷是，它发布了通用代码，而实际上它为每个单独的客户调整其系统。警察部门通常抵制发布法律未强制要求公开的数据，Goldstein 承认他的客户不会允许他分享一些他用来生成预测的数据。没有访问代码的最终版本或完整的数据集，观察者很难评估算法的作用。

“我认为这是警察部门和公众之间的一个妥协，”Goldstein 说。“我宁愿采取这一步并向前推进，而不是因为我们知道存在缺陷而不采取任何步骤。”Isaac 说，CivicScape 并不完全控制其系统的运作，但 Goldstein 的态度说明了公司和政府机构对预测技术的有问题的处理方式。Goldstein 正确地指出，保密已被确立为基线，然后要求对他在另一个方向采取的任何步骤给予认可。“这应该由他来决定吗？”Isaac 说。“我认为这是一种虚假的选择。”

林登，像许多CivicScape的客户一样，是一个正在经历转型的小部门。其首席，乔纳森·帕哈姆，2016年底上任，此前该部门因一名警官在斯塔滕岛一家脱衣舞俱乐部度过醉酒夜晚后导致致命车祸而笼罩在阴云之中。帕哈姆是林登的终身居民，拥有25年的警察经验，也是该部门首位非裔美国人首席。他还认为，警察部门过于强调逮捕人。

帕哈姆表示，他将预测性警务视为抵消人才流失的一种方式。部门缺乏经验使林登的警员对其社区缺乏基本了解。“我们正在关注对你所在地区的个人知识的缺失，并用犯罪频率的技术知识来补充，”帕哈姆说。

这是增加计算机的一个常见论点。卡姆登的部门也提到了类似的需求。所有的摄像头、社交媒体分析和自动预测都旨在帮助部门在最少的警员下覆盖更多的区域。

里维拉佩戴着他的身体摄像头，记录视频和音频。摄影师：米莎·弗里德曼，彭博社对艾萨克来说，这是一种短视的刑事司法方法。即使是每小时更新目标区域的行为也会扭曲情况，因为它忽视了在接下来的60分钟内无法由警察执行的任何潜在服务。将预测技术限制为警察用来抓捕所谓坏人的工具，削弱了其潜在优势。“你所剩下的只是警察与强盗之间的感知棋局，”艾萨克说。“这是一种非常简单化的犯罪真实情况的版本。”

帕哈姆提出了类似的观点。他认为，林登警察局能做的最糟糕的事情就是相信戈尔德斯坦真的拥有神秘的数学，可以让警员在枪击事件即将发生时准确到达特定地点。在与戈尔德斯坦的会议上，他告诉部门的高层，必须避免将执法变成视频游戏。

帕哈姆回忆起他参与的一次训练演习。警员们被派往一个火车站，要求采访站内的人，把他们视为不仅仅是潜在的犯罪嫌疑人。10分钟后，每位警员会写下他所学到的内容。获胜者是提供最有用信息的人。

帕哈姆说，记录逮捕人数最多的警员表现总是最差。如果执法只是从计算机接收目标然后攻击目标，那么计算机模型的精确度就无关紧要。帕哈姆的工作是培养在火车站演习中表现更好的警员。“我们的警员，越是技术娴熟，他们就越不具有人性，”帕哈姆说。“我不想要那样。”