湾区的监控摄像头禁令只是个开始 - 彭博社

路人走在德国柏林苏德克鲁兹车站的监控摄像头下，该摄像头是面部识别技术测试的一部分。Steffi Loos/Getty加利福尼亚州奥克兰——每个月的第一个星期四，大约十个人在奥克兰市政厅的一间昏暗、棕褐色调的房间里聚会。这是该市的隐私咨询委员会——由来自每个奥克兰区的志愿者、奥克兰警察局和市长办公室的代表，以及该市的首席隐私官乔·德弗里斯组成。他们聚在一起讨论与城市日益增长的监控技术相关的一系列问题：数据如何使用、存储和共享。在这个科技饱和的城市里，究竟是谁在追踪谁？

彭博社城市实验室芝加哥以冷静、派对和阳光克服了大会怀疑者纳粹掩体的绿叶改造将丑陋的过去变成城市的眼球吸引者圣保罗的 cortiços 如何帮助庇护南美洲最大城市仅使用公共交通的跨洲竞赛五年前，第一届隐私咨询委员会的前身在关于一个 计划中的监控中心 的消息传出后召开。联邦资助的“领域意识中心”最初仅用于奥克兰港，但市官员在2013年提议 扩展它。该项目扩展的1100万美元的声明目的是打击犯罪并更好地应对潜在的紧急情况。（自2005年以来，奥克兰一直在努力应对 暴力犯罪的增加。）该提案旨在用摄像头、枪声探测器和自动车牌识别器覆盖整个城市，以便追踪嫌疑人的行为、动向和联系——并预防不必要的事件。“这完全是关于效率和自动化在公共安全和紧急响应中的应用，”当时该市的首席信息官阿赫桑·拜格 告诉 GovTech。

但是隐私活动家对大规模监视发出了警报，特别强调了这项技术可能对贫困社区的有色人种造成歧视的风险。后来，当电子邮件揭示这一倡议的真正目的是 监视抗议者时，他们的担忧得到了证实， 项目的范围被缩减。

在DAC辩论之后，奥克兰市议会组建了一个临时委员会，以制定严格的数据保留政策和中心应遵循的最佳实践。该委员会建议，城市真正需要的是更为永久的解决方案：这项技术必然会发展，其用途也会增加。

奥克兰的委员会并不是全国唯一的正式市政隐私委员会——西雅图也有一个——但它可能是最积极的。在当地隐私倡导者布莱恩·霍弗的领导下，它帮助通过了监管该地区监视的立法，包括一项 透明度条例，规定了奥克兰警察局与FBI合作的条件以及对每一项新智能城市监视设备的“技术影响报告”的指导方针。

五月的会议议程满满，气氛特别紧张。他们讨论了全市范围内的 隐私原则的最终草案，该草案由伯克利法学院的萨缪尔森法律、技术与公共政策诊所制定。如果下个月获得市议会批准，这份文件旨在作为城市的指引，因为它试图最大化透明度和隐私——这些利益在会议上萨缪尔森诊所的副主任埃里克·斯塔尔曼表示，他认为并不是“不可调和的”。

但委员会也在讨论另一个潜在的隐私里程碑：多亏了隐私咨询委员会的工作，奥克兰和旧金山距离成为美国首个禁止面部识别技术的城市仅一步之遥，这是一种日益 普遍且强大的技术，允许计算机识别照片和视频中的面孔，并与执法数据库进行匹配。

根据去年通过的 监控与社区安全条例，新的监控技术现在必须 经过公众批准程序，才能在奥克兰部署。但霍弗和委员会成员希瑟·帕特森提出的修正案还将明确禁止市部门——以及与城市有数据共享协议的任何公共实体——使用面部识别技术或通过该技术捕获的信息。（不过，该修正案并不禁止私人使用此技术，因此私人房东可以在 住宅或商业建筑中部署它。）如果市公共安全委员会本月批准该修正案，市议会将在六月初对此进行投票。

旧金山的禁令与奥克兰的禁令相似：它作为该市提议的 停止秘密监视条例的一部分，由监督员亚伦·佩斯金在一月份提出。本周通过了该提案。

目前，这两个城市的警察部门都没有使用面部识别技术。旧金山 在2017年停止了测试。但预先禁止该技术符合更广泛的努力，旨在将旧金山和奥克兰建立为“数字避难所”—这些地方的政府数据收集和共享以透明度、问责制和公平为基础。隐私倡导者表示，面部识别技术尤其危险，因为它可以做一些前所未有的事情：将一个人的视觉存在转化为可能的证据信息，使其在不知情的情况下进入执法部门使用的数据库。

“面部识别是压迫奥克兰人珍视的权利和自由的完美工具和系统，”加州北部美国公民自由联盟的技术与公民自由律师马特·凯格在五月会议的公众评论中支持该修正案时表示。“这些伤害对有色人种、移民和其他历史上受到政府压迫的社区的影响尤为严重。

因为公共场所人群聚集在摄像头下——无论是庆祝、抗议还是单纯存在——都是收集这些信息的肥沃土壤，因此关于面部识别的斗争是一个独特的城市问题。霍夫尔说，湾区有责任领导这一监管努力。

“我们是所有这些技术开发的地方，”他说。“我认为在技术的发源地，我们建立这些规则和指南是很重要的。”

在2001年，坦帕市秘密使用了配备面部扫描软件的摄像头在一座满是超级碗观众的体育场上。该系统将观众的面孔与一份逮捕令数据库进行比对，揭示出在10万人中有19人有未解决的轻罪逮捕令。

这种自动化计算机辅助技术自1960年代以来一直在开发，用于识别和验证犯罪嫌疑人。但2001年的事件是许多人第一次意识到，计算机能够为人脸召唤名字不再是科幻小说的领域。而且很多人对此并不满意：当事件的报道公开时，美国公民自由联盟给坦帕市领导人写了一封信，要求对“窥探者碗”进行全面解释。

这将证明是公民自由倡导者与执法部门之间持续冲突的开始。随着面部识别技术的进步，权威机构宣传 其众多公共安全应用：检测 护照和其他类型的身份欺诈、识别活跃的枪手和 不合作的嫌疑人、协助法医调查，以及 帮助寻找失踪儿童。

例如，在六月，安娜阿伦德尔县警方 使用面部识别迅速识别出在马里兰州安纳波利斯的 Capital Gazette 报社杀害五名记者的男子。由于枪手被拘留但不合作，警方将他的照片与马里兰图像库系统中的数百万张驾照照片和拘留照进行比较。“面部识别系统按设计运行，”马里兰州公共安全秘书斯蒂芬·T·莫耶在给 Baltimore Sun 的声明中说。“它一直是并且继续是我们州打击犯罪的宝贵工具。”

支持者表示，人脸识别的应用不仅限于打击犯罪。它可以 帮助盲人识别他们互动的人的表情，并帮助 历史学家识别在内战中阵亡的士兵。

但隐私倡导者警告说，这是一种可以用来针对弱势群体的工具。例如，中国当局使用它来 对维吾尔穆斯林少数民族进行画像和控制。在美国， 研究人员发现政府已经在未经同意或通知的情况下，使用 儿童色情照片、签证申请和定罪前的照片进行人脸识别技术测试。巴尔的摩的警察在 使用人脸识别技术识别和监控抗议者后，因2015年弗雷迪·格雷的死亡而受到公民自由团体的批评。

“警察在公共集会上拿着相机并没有什么善意。这本质上是另一种形式的政治暴力。”2016年，乔治城大学法学院的隐私与技术中心（CPT）发布了一份 报告，概述了面部识别在全国范围内的普及程度。报告发现，几乎30个州允许执法部门扫描驾驶执照和身份证数据库。“大约一半的美国成年人以这种方式被搜索照片，”作者写道。总体而言，约有1.17亿成年人受到这项技术的影响——他们是“一个虚拟的、永久的排队”，报告称，识别目击者是一个算法。

当然，使用生物特征数据——人类身体独特特征的测量或图谱——来寻找人并不是新鲜事。美国第一个国家指纹数据库是在1920年代由FBI局长埃德加·J·胡佛组建的；在1990年代，联邦调查局的 综合DNA指数系统（CODIS） 允许执法部门使用DNA档案来帮助识别和定位犯罪者。但面部识别的范围和影响超出了这些数据库，这些数据库仅跟踪相对较小的人群。你不能像面部识别那样，秘密地从远处对大量人群进行指纹采集或收集DNA信息。随着监控摄像头捕捉到人们的面孔，执法部门可以实时构建他们在城市中移动的亲密画像。

“这项技术让执法部门能够做一些他们以前根本无法做到的事情，”乔治城大学法律CPT的创始主任阿尔瓦罗·贝多亚说，他是2016年报告的共同作者。“人们需要理解这并不正常。”

这项技术不仅仅是覆盖面更广。研究表明，面部识别软件在识别性别和少数民族时容易出错。在2018年，研究人员 在麻省理工学院测试了三种基于AI的面部识别技术，发现识别白人男性的错误率为0.8%，而识别黑人女性的错误率则高达34.7%。

“你已经看到执法部门及其使用武力的问题，”美国伊斯兰关系委员会的政府关系协调员萨米娜·乌斯曼在隐私委员会5月会议的公众评论中说。“拥有这种不准确的面部识别软件可能导致这些类型的错误死亡。”

尽管如此，全国各地的警察部门仍在热切采用这项技术，这项技术正由亚马逊等公司进行营销。该公司的Rekognition软件正在 佛罗里达州和 俄勒冈州进行试点，尽管对其准确性存在质疑。（美国公民自由联盟使用Rekognition的一个版本扫描了535名国会议员的照片与25,000张公共拘留照，并 得到了28个错误匹配。）亚马逊还在 推动ICE购买Rekognition。

地方领导，尤其是在面临犯罪问题的城市，常常被面部识别监控将为公共安全带来好处的想法所吸引。“在奥克兰，我们确实有相当数量的犯罪，”市议会成员诺埃尔·加洛对*《旧金山纪事报》*说。“这只是一种公共安全的形式，因为我没有足够的警力来保护我们的孩子和家庭。如果你犯罪，你也应该被清楚地识别出来。”

尽管委员会一致通过了面部识别修正案，但安全与隐私之间的紧张关系在5月的会议上引发了辩论。奥克兰警察局代表布鲁斯·斯托夫马赫被指派分析该部门使用远程直播摄像头的情况，并建议在什么情况下可以根据奥克兰更广泛的监控条例部署这些设备。一份豁免草案建议，警员只能在卧底行动或预计将吸引1万人以上和全国关注的公共活动中使用这些设备。

但斯托夫马赫还列出了警察希望在较小聚会中使用这些设备的情况，例如金州勇士队的比赛游行。“这仍然被视为一个足够大的事件，奥克兰警察局将尝试让警员进行观察。你可以将其直播到紧急操作中心或警察总部大楼，”他说。“我认为能够说这是一个确切的数字并不支持警务的本质。”

其他人认为，警方在大型和小型活动中部署的任何摄像头都会对受保护的言论自由和集会产生寒蝉效应。“在公共集会上，警察手持摄像机并没有什么善意，”来自奥克兰的律师亨利·盖奇三世在会议的公众评论中说道，“这本质上是另一种形式的政治暴力。”

霍夫尔表示，部分紧张局势可以通过明确阐明的使用案例来缓解：如果警方掌握情报，知道抗议或集会将包括有暴力历史的团体——例如白人至上主义者骄傲男孩——那么这项技术或许会有用。

“警方有责任确保公共安全，他们需要以某种方式运作以实现这一目标，”他说。“因此，这其中的一些内容需要非常细致的界限。”

从某种意义上说，这项技术已经超出了控制，像奥克兰或旧金山这样的面部识别禁令无法将其收回。公共场合的人像仍然可以被拍摄、收集和存储；潜在地，它们可以被发送到其他地方进行分析。

“面部识别并不需要特定的摄像头来实现——它们有助于面部识别，但并不依赖于它们，”奥克兰隐私组织的成员迈克·卡茨-拉卡贝说。“只要你有摄像头，你就可以拍摄视频并将其发送到其他地方进行分析。”

这种情况在智能监控的其他领域经常发生。

去年，当地问责非营利组织奥克兰隐私发现，湾区快速交通公司正在记录加州司机的车牌信息，并将记录存储在一个数据库中，该数据库也可被移民和海关执法局访问。这使得ICE能够访问57,000条车牌记录，从而追踪潜在无证移民及与他们接触的任何人的动向。

担忧的不仅仅是ICE在创纪录的水平上驱逐没有犯罪记录的移民。 而是国土安全部（DHS）也在监视家庭成员、倡导者和支持者。《拦截者》 最近发现DHS一直在监视抗议政府分离移民家庭做法的平民。

在这种背景下，BART的交通数据收集可能具有更隐秘的影响——就像直播抗议活动一样。“地方警察部门可能并没有恶意，但如果他们收集所有的照片并使其可用，其他机构就可以获取这些信息并用于他们想要的任何目的，”奥克兰隐私组织的组织者Tracy Rosenberg说，同时也是奥克兰技术组织媒体联盟的主任。“而这些目的并不总是与他们所想的一致。”

这些复杂的监视供应链使得像奥克兰这样的面部识别禁令的执行变得复杂，UC伯克利长期网络安全中心的研究员Steve Trush说，同时也是非营利组织Hofer chairs的董事会成员。安全正义。即使奥克兰或旧金山的市部门遵守这一禁令，他们周围的县和州却不遵守。“我可以想象，如果县内足够多的城市同意禁止面部识别，可能会解决一些摩擦，”Trush说。“那么也许你可以看到县考虑禁止它的时机，也许州也同意全面禁止。”

更重要的是，人脸识别技术不仅掌握在政府和执法等官方机构手中：它也在你邻居的前门上。“智能视频门铃设备，如Ring和Nest制造的产品，已经创造了一整支公民记录者的队伍，他们可以向执法部门报告他们认为可疑的路人。当这些设备具备识别功能时，奥克兰或任何城市在接收情报时将很难确保在数据收集过程中没有使用过这项技术。

Trush表示，随着更多的法规和消费者的压力，也许科技公司会选择在不使用人脸识别技术的情况下开发他们的产品，或创造替代方案。已经有来自微软和亚马逊等科技公司内部发起的运动提出了伦理问题，围绕项目和合同；作为回应，这些公司已经撤回了某些倡议。

最终，实现对这项技术的地方和州法规的关键性集聚也是霍夫的梦想。“我确实期待这会传播，”他说。“我们打开了大门，让其他人加入进来。”

但他和其他倡导者也承认，遏制威胁隐私的智能技术传播所面临的挑战。这就是为什么委员会也在推动通过奥克兰的指导隐私原则，这可以为未来的政策制定提供参考。

“我们想要的是，与其说是针对特定技术的立法，不如说是一个能够处理未来任何情况的过程，”罗森伯格说。“因为2015年让人不安的事情与2019年或2023年让人不安的事情是不同的。你不想创造一个九头蛇的局面，制定针对特定技术的监管，然后技术发生变化，就像什么都没有发生过一样。”