为什么面部识别软件引发隐私担忧 - 彭博社

在中国上海举行的世界人工智能大会上展示的人脸识别技术。

摄影师：Qilai Shen/Bloomberg人脸识别技术可以解锁我们的智能手机，加快乘客通过机场安检，找到失踪儿童。但是，该技术被执法机构和大型企业越来越广泛地使用，引发了公民自由倡导者的担忧，他们担心隐私丧失和异议被压制。甚至大型科技公司也发出警告，亚马逊公司创始人杰夫·贝索斯称人脸识别为“监管必要的典范”。

1. 人脸识别是如何工作的？

人脸识别技术扫描人脸上的特征并进行分析，例如测量眼睛、鼻子和嘴巴之间的距离，以及脸颊、嘴唇和耳朵的形状。每个人的特征被合并形成一种数字“面部特征”，这是独一无二的。该技术可以通过比对人脸图像与在线发布或政府或警察数据库中的现有照片（如逮捕照片或护照照片）来识别一个人。

2. 为什么人脸识别技术备受争议？

这项技术变得更加便宜，使用也更加普及。全球各地的执法机构正在迅速采用该技术，将犯罪嫌疑人的面孔与社交媒体、驾照和警方逮捕照片上的照片进行比对。中国尤其广泛使用人脸识别技术。通过这种方式，它可以作为一个实时工具，快速扫描大型人群以寻找罪犯。但公民自由团体警告称，执法机构使用人脸识别技术存在歧视和其他滥用的危险。

3. 有哪些公共用途引起了批评？

在著名的例子中，英国一些最大的零售商同意向伦敦大都会警察提供他们的闭路电视摄像头，用于一项新的高科技警务行动，打击激增25%的惯常扒手行为。这项大网比对摄像头捕捉的图像与全国的逮捕照片数据库，匹配过程大约需要60秒，据BBC 报道。五月份，人权组织国际特赦组织指责以色列在希伯伦和东耶路撒冷使用面部识别系统，作为对巴勒斯坦人实施“任意移动限制”的工具。以色列国防军回应称，他们进行“必要的安全和情报行动”。在10月7日哈马斯袭击以色列之后，以色列志愿者和一些新闻机构使用面部识别技术识别哈马斯的枪手和受害者。

4. 私营部门情况如何？

控制纽约麦迪逊广场花园和收音城音乐厅的传媒巨头詹姆斯·多兰承认使用面部识别技术，以阻止他的一些法律对手的律师进入他的场馆。麦迪逊广场花园为其政策辩护，多兰告诉《体育》杂志，麦迪逊广场花园“不是政府实体，而是一家私营公司”。他继续说：“一个面包店，一家餐馆，你可以选择要为谁提供服务。”

5. 中国在做什么？

许多国家的街道上都布满了安全摄像头，但中国在将它们与庞大的人脸数据库相连接方面独树一帜。中国的系统甚至被用来远程识别行人并发送闯红灯罚单。更重要的是，中国被指控在新疆地区存在侵犯人权的行为，新闻报道和人权组织称数十万维吾尔族人，一个主要信奉伊斯兰教的少数民族，已通过人脸识别系统被识别并被关押在秘密集中营中，中国对此予以否认。人脸识别在一项系统中发挥了关键作用，该系统在新冠疫情在全国蔓延后的几个月内基本上限制了数亿人的活动。2020年8月，中国网络监管机构发布了关于使用人脸识别技术的草案指南，指出该技术不应用于分析种族或宗教，也不应用于在私人场所收集图像，比如酒店房间。但尚不清楚这些规则是否适用于国家安全机构。

6. 这项技术有多准确？

足够广泛使用，但在涉及哪些人应该被逮捕等问题上并不一定足够可靠。研究发现，这些程序特别容易误识别女性和皮肤较深的人。民权活动人士警告，执法部门手中的有缺陷工具可能导致无辜人员被监禁。这也是在2020年美国爆发针对黑人遭警察暴行的抗议后，对这项技术的抵制加剧的原因之一。依赖人脸识别技术（使用人工智能）已经导致人们被错误指控犯罪。但有迹象表明，这项技术正在变得更加准确。英国国家物理实验室于2023年3月发布的一项研究发现，伦敦警察局近年来使用的人脸识别技术已经有了“显著改进”。该机构的研究得出结论，人脸识别系统的正面识别率达到了89%，并发现性别和种族之间的差异在统计上并不显著。一项于2020年2月发表的早期技术版本的研究发现，其正面识别率为72%。

7. 大型科技公司都说了什么？

谷歌、微软、IBM和OpenAI鼓励立法者实施人工智能的联邦监管，他们认为这是确保安全所必需的。2018年，微软是第一个呼吁制定规定以防止所谓的“商业竞争的底线”被打破的公司。亚马逊的贝索斯在2019年呼吁进行监管。2020年，对执法部门使用面部识别技术的担忧日益增加，导致亚马逊、微软和IBM暂停向警察部门销售。最近，Meta平台公司表示将不再在Facebook上分享的照片和视频中使用面部识别技术，因为他们正在权衡这项技术的成本和收益。但其他公司正在继续前进。

8. 谁在采取什么行动？

• 欧盟提出了新规定，要求在边境管控或学校等高风险场合使用的面部识别系统在部署到该地区之前必须接受外部机构的审计，以确保它们不会导致歧视。当这些系统用于低风险场合，如检测情绪时，必须通知人们。
• 欧洲议会投票通过了一项禁止在公共场所使用实时面部识别技术的全面禁令。这些规定包含在欧盟的《人工智能法案》草案中，仍需成员国批准才能成为法律。
• 在美国，至少有25个州和城市提出了限制面部识别技术使用的立法，范围从密歇根州提出禁止技术实时使用到佛蒙特州要求商店通知消费者系统正在使用。华盛顿州通过了由微软支持的法律，允许州政府机构使用该技术，并设有一定的保障措施，包括人类能够审查系统推荐的任何决定。
• 此外，在美国，两党的国会议员讨论了强制政府机构暂停采用面部识别系统的法案，但没有一个法案得到推进。
• 美国的一些城市，包括旧金山和马萨诸塞州的剑桥，已经完全禁止警察或其他机构使用这项技术。

参考书架

• 一个关于美国、欧盟和中国如何试图规范人工智能的 快速了解。
• 一档关于麦迪逊广场花园老板詹姆斯·多兰在他的场馆（包括收音乐厅和花园）使用面部识别技术的 彭博法律播客。
• 一档关于面部识别技术“可怕影响”的 彭博商业周刊播客。
• 彭博观点专栏作家帕米·奥尔森谈论为什么赌场正在使用面部识别技术 监视他们的超级富豪客户。