人工智能监控是否应受到限制？《华尔街日报》读者分享观点 - 《华尔街日报》

人工智能在网络安全领域的应用无处不在，从检测视频中的深度伪造内容，到识别金融欺诈和预测网络攻击的算法。

但这些打击犯罪的应用何时会越界侵犯我们的隐私？更具体地说，对守法公民进行人工智能监控涉及哪些伦理问题？

作为关于人工智能伦理影响系列报道的一部分，我们想了解《华尔街日报》读者对人工智能监控的看法，因此提出了这个问题：为了保护隐私，限制执法中的人工智能监控（如面部识别）是否符合伦理，即使这意味着包括暴力犯罪在内的更少罪犯会被抓获或定罪？

以下是一些读者的回应。

简单的权衡

我愿意牺牲一点隐私，以换取不被谋杀。

• 玛丽·赛克斯， 堪萨斯州罗斯希尔

更多监控，而非更少

我是在9/11事件周年纪念日回答这个问题的。我希望有更多而非更少的人工智能监控。在公共场合，人们不应期待隐私。但人工智能不应窥探你的窗户。

• 艾丽莎·雷·舒普， 拉斯维加斯

准确性问题

这个问题假设人工智能面部识别是准确的。事实并非如此，尤其在美国，如果你不是白人或男性。直到不同种族的面孔被错误识别和错误指控的可能性均等之前，人工智能监控还不适合大规模使用。

• 米歇尔·莫特·哈维， 密西西比州牛津

关键在于 如何使用

面部识别技术与目击者证词、列队辨认或其他警方工具一样具有伦理合理性。唯一区别在于它能快速锁定多起案件的嫌疑人。这项技术能让任何乱穿马路者或警方不喜之人被起诉。伦理问题不在工具本身，而在于其使用方式。

• 丹尼尔·布兰德， 夏威夷凯卢阿

谁来监督监督者？

实施监控前必须取得许可令。将公共/执法监控系统设为"黑箱"，未经人类法官事先同意不得进行面部识别。因为核心问题不是"能否信任AI"，而是"能否信任使用AI进行监控的人"。

• 约翰·帕齐亚莱， 佛罗里达州奥卡拉

受害者视角

若我成为暴力犯罪受害者，我会希望所有AI扫描所有面孔。

• 克林特·尤班克斯， 休斯顿

仅限于机场使用

谁来定义伦理标准？在我看来，AI人脸识别用于机场安检是合理的，但不应作为常规打击犯罪工具！

• 吉姆·斯凯， 内布拉斯加州贝尔维尤

识别之后？

我认为执法中使用AI监控可以接受，前提是执法人员能冷静约谈AI识别的嫌疑人，而非破门而入等过激行为。

• 唐恩·塔格布洛姆， 佛罗里达州迪兰

这值得吗？

我认为需要制定一个执法与社会效益与隐私权之间的百分位阈值作为协议标准。例如，如果这种监控能有效防止大多数人成为受害者，那么就应该允许。但如果该领域的效益低于"值得"阈值，则不应实施。

• 温德林·科门， 北卡罗来纳州罗利市。

无隐私可保护

什么隐私？你在家外的行踪和交往对象为何需要保密？AI不过是更精准的行为见证者，是人类观察和闭路监控的升级版。

威斯特·史密斯， 阿拉巴马州斯科茨伯勒

AI最关键的议题

所有监控都必须受到限制以保障公民自由，这确实会加大执法难度。如何在强化执法同时不危及自由，是AI领域最关键的平衡点。

• 约翰·阿佩， 弗吉尼亚州赫恩登

换汤不换药

我们已是受监控最严密的人群。手机掌握所有行为模式、位置、对话和搜索记录，摄像头无处不在。人脸识别虽未普及，但相比现有数据收集似乎并不构成更大威胁。

• 罗伯特·加里森， 达拉斯

人类才是关键

这种做法已经在实施中，执法部门在某些场景下通过扫描车牌和人脸来识别潜在危险分子。或许能抓获更多罪犯，但人们不禁要问：持异议AI的"少数派报告"是否会被纳入考量或公开？

这引发出AI系统如何解决意见分歧的问题。我认为必须由人类来裁决——听取AI的分析建议后，基于人类经验做出决定。因此我们始终需要配备知识渊博、技能娴熟的人类监督员。我们绝不能将最终决定权交给AI，这不仅是伦理问题，更是安全问题。

• 拉尔夫·卡鲁索， 佛罗里达州棕榈城

滑坡效应

就在几年前，当今社会（政府和企业的）监控程度绝对无法被容忍。但人们正在逐渐接受这种现象。政府使用任何工具最初都出于善意，但很快会遭到滥用。电击枪最初被合理化是因为比子弹更人道，如今却在原本无需武器的场合被滥用。我不相信政府会限制AI监控仅针对暴力罪犯。作为大规模监控工具，AI的诱惑力实在太强。AI使政府常态化侵犯公民隐私成为可能。通过摄像头和面部识别，AI能追踪人们的合法行为及社交轨迹。例如在日常生活中，AI可以识别个人身份、同行者及目的地。无论参加合法集会、逛街或就餐，这类数据都可能被AI用来"关联定罪"，将无辜者列入政府嫌疑名单。对于长期缺乏问责的机构而言，这种权力实在过大。

• 杰·韦尔曼， 科罗拉多州奥罗拉

必须保持透明度

人工智能监控或许是必要的，尤其在我们的犯罪率不断攀升的当下——特别是财产犯罪，其中许多案件甚至从未被录入系统，因为警方对此类案件缺乏兴趣。但监控措施的存在应当公开告知民众，摄像头也应设置在显眼位置。

• 卡罗尔·希利， 旧金山

自由的沦丧

套用本杰明·富兰克林的话：那些为安全放弃自由的人，终将两者皆失。车牌识别系统已让警方能追踪我们车辆的每段行程，摄像头和麦克风遍布我们住宅内外每个角落。所有人都在监控我们的阅读记录与消费行为。政府试图废除现金交易，只为窥见我们每次消费明细。无人机在空中盘旋执行着天知道什么任务。

人工智能将把这些监控手段放大到难以想象的程度。诚然它能带来某些益处，但残存的隐私权将彻底消亡。若有人认为我们能控制智商呈指数级超越人类的造物，我建议您该去看看脑科医生。

• 德威特·史密斯， 得克萨斯州弗雷德里克斯堡

坦荡之书

不需要。清白者无需隐藏。

• 詹姆斯·沙利文， 佛罗里达州劳德代尔堡

犯罪压倒一切

不！先抓住罪犯！

尽管AI确实可能产生错误识别，但它也提供了抓捕罪犯的契机。每周新闻里都有心碎的母亲哀求公众帮助寻找枪杀其子女、配偶或挚爱的凶手。纵火、盗窃、凶杀、入室抢劫*——*若能通过监控和AI识别，多数罪犯都将落网。

• 丽贝卡·贝克霍尔德， 南卡罗来纳州丹尼尔岛

请拿走我的隐私

我认为应动用一切手段识别违法者并将其绳之以法。为此牺牲个人隐私我毫无异议。

• 马克·拉多姆斯基， 南卡罗来纳州列克星敦

这是1984年

限制AI监控当然是合乎道德的。犯罪率并未猖獗到需要建立警察国家的地步。在中国，它被用来控制少数民族，决定谁可以或不可以乘坐火车。美国的AI监控就像《1984》里的老大哥，或曾经的苏联。你们仍可调取监控录像，但根本不需要AI。

• 达莉拉·本纳申胡， 华盛顿特区

德梅特里娅·加列戈斯是《华尔街日报》纽约编辑部编辑，联系方式：[email protected]。

本文发表于2023年9月28日印刷版，标题为《是否应该限制AI监控？<华尔街日报>读者各抒己见》。