《彭博社》：华盛顿应该采取哪些措施来应对人工智能风险

参议院多数党领袖查克·舒默（Chuck Schumer）在华盛顿特区国会山举行的参议院跨党派人工智能洞察论坛后举行新闻发布会，时间为2023年9月13日星期三。

摄影师：Al Drago/Bloomberg嗨，我是Shirin，来自旧金山，在这里，人工智能的热潮如此之高，以至于你可以制作自己的AI生成冰沙。每个星期四，我都会发布这份新闻简报，帮助您更好地了解令人兴奋、复杂，有时令人恐惧的人工智能世界。

我将回答您的问题（您可以将问题发送到这里），了解像基于AI的聊天机器人、图像生成器和自动驾驶汽车等快速发展的技术如何改变我们的生活，颠覆行业，引发新的伦理辩论，并迫使全球各地的监管机构赶上。我们还将发布新闻，分享内幕消息，并突出报道中最重要的故事。但首先…

了解三件事：

• 高级民主党议员正在迫使人工智能公司改善对“幽灵工人”的待遇，这些工人负责标记数据和评分回复• 由前谷歌员工创立的隐秘人工智能初创公司正在筹集4000万美元• 更多接受大学教育的美国工人担心技术会让他们的工作变得过时

避免过去的错误

科技界的大佬们周三出现在华盛顿，与参议员们就人工智能监管的未来进行闭门会议。这场星光熠熠的科技盛会汇聚了埃隆·马斯克、马克·扎克伯格、山姆·奥尔特曼等人，这是参议员查克·舒默计划的九场会议之一，旨在为他的同事们提供“紧急课程”，让他们了解人工智能。而这场会议恰逢华盛顿举行了多场其他人工智能听证会和提出了多项法案的一周。有人可能会称之为进步：华盛顿似乎终于开始认真对待人工智能监管了。但我不禁感到有些似曾相识。

我在科技领域工作和撰写文章将近十年，最近在Vox工作，我花了很多时间报道社交媒体行业在剑桥分析事件后的道德反思。像Facebook和Twitter这样的社交媒体平台被指责导致政治两极化，伤害青少年的心理健康，侵犯数据隐私。国会传唤科技公司CEO到国会山听证。一系列法案被提出。然而什么都没发生。自上世纪90年代以来，我们仍未见到大规模的联邦立法来监管互联网。

显然，华盛顿希望这一次会有不同的结果，在人工智能应用变得像社交媒体一样广泛使用之前，还有一个机会窗口。但立法者面临着一些可能引发对前进道路产生疑虑的错误。首当其冲的是：过度依赖行业人士的反馈，而不是采取行动而不是空谈。

当他最初解释这些峰会的理由时，舒默呼吁国会对人工智能保持“谦卑”，并“从零开始”监管它，因为这项技术是如此新颖和前所未有的。但人工智能实际上并不新鲜对于国会而言。多年来，参议员和众议院成员一直围绕人工智能进行讨论，从自动化取代工作的潜力到面部识别如何被滥用于威权监控。在这里重新开始可能会让科技公司受益。

“国会一直在讨论[AI]的危害，”乔治华盛顿大学数据民主研究所研究员、曾在众议院科技政策工作多年的安娜·伦哈特说。“我很高兴看到舒默参议员对科技政策感兴趣，但仅仅因为他对这个话题是新手并不意味着他的同事们不了解，我认为这一点非常重要。”

早在2016年，参议院商务委员会就召开了一场关于人工智能的听证会名为“人工智能的黎明”，其中有来自OpenAI和微软的高管作证。2018年，微软 总裁布拉德·史密斯要求包括美国国会在内的各国政府对基于人工智能的面部识别技术进行监管。2020年，谷歌CEO 桑达尔·皮查伊撰写了一篇题为“为什么谷歌认为我们需要监管人工智能”的观点文章。

伦哈特一直在追踪每一项提出的会对人工智能进行某种形式监管的国会立法。据她统计，目前已经有三十多项，包括一项新提出的本周提出的由参议员艾米·克洛布彻、乔什·霍利等人领导的一项旨在禁止政治广告中使用欺骗性AI生成的图像。

提出立法是一回事，获得国会两院的广泛支持是另一回事——尤其是在国会有可能被弹劾程序、可能的政府关门以及2024年选举周期的风险下。与此同时，包括欧盟在内的其他市场已经在推进广泛的人工智能立法。虽然许多参加峰会的参议员告诉记者这是一次富有成效的对话，但一些舒默的同事对峰会的运作感到沮丧：全天的节目中没有选项让参议员现场提问（他们只能提前提交书面问题）。甚至在峰会开始之前，它就被戏剧化地卷入了争议，主要是关于谁没有被邀请到桌子旁，以及它对媒体和公众关闭。

人工智能和伦理社区的一些主要声音指出，与独立研究人员和技术评论家相比，首席执行官在与会名单上占据了较多的位置。

“他们聚集了那些企图主导并从人工智能炒作中获利的公司领导层，”Signal基金会总裁、AI Now研究所联合创始人梅雷迪思·惠特克在一条消息中写道。“我尊重那个房间里的几个名字，但我担心，就像通常发生的那样，他们将在重大的权力不对称下几乎没有影响力。”

加州大学伯克利分校的人工智能研究员黛博拉·拉吉是会议室里唯一的学术研究人员。总体而言，拉吉表示她认为这次峰会是一个“有效的事件”，因为它汇集了一大批立法者，否则“可能不会考虑优先考虑人工智能”。但拉吉表示，她希望能有更多学术界的声音提出关键问题，比如人工智能系统中的不准确性。

“未来有事件发生，我知道他们正在考虑这一点，并且他们认真对待这一批评，”她说。

参议院多数党领袖查克·舒默在国会山主持了一场由顶级科技公司CEO参加的跨党派人工智能洞察论坛。摄影师：阿尔·德拉戈/彭博社民权倡导者玛雅·怀利也在场，她表示她对调控人工智能的一致意见感到鼓舞，但制定具体政策需要进一步讨论。“紧张点在于如何平衡技术的速度，以及如何在前期融入安全性、透明度和问责制，以免人们以后受到伤害，”怀利说。

一些参议员离开这次峰会时表示他们对人工智能有了更多了解。尽管闭门会议容易受到批评，但可以理解为什么立法者不想担心将他们的评论打包成病毒式声音片段（或者像在过去的科技听证会上那样被摄像机拍到问愚蠢的问题）。

但是，如果一些参议院领导人仍然表现得像是在人工智能的学习阶段，并且仍在努力找到合适的人士交流，那么我们离通过实际立法还相当遥远。舒默表示，他希望在几个月而不是几年内提出新的人工智能立法。但一些监管者，如参议员迈克·朗兹，表现出犹豫，告诉记者国会“还没有准备好立法。”

除非国会尽快通过关于人工智能的紧急课程，否则在这方面的监管可能会像社交媒体一样失败。

会议结束后的第二天，我赶上了会议室里的一位科技高管，克莱门特·德朗格。他是Hugging Face的首席执行官，这家初创公司被称为“AI版的GitHub”，估值为45亿美元。事实上，德朗格碰巧遇到了参议员玛丽亚·坎特韦尔，她在我们通话中短暂打招呼。

本文已经过编辑，以缩短长度并提高清晰度。彭博社：那次会议是什么感觉？这是你第一次与这么多科技公司首席执行官、立法者和公民社会领袖在一起吗？

**德朗格：**我不知道有多少这样的事情会有这么多高层人士参与。这绝对是一次独特的经历。我认为这表明了人工智能的重要性以及人工智能目前对国会的重要性。但不仅仅是对国会，还有对科技行业的重要性，因为有这么多大科技公司的首席执行官在场。

你没看到埃隆·马斯克和马克·扎克伯格互相投以愤怒的眼神，对吧？

不，一切都非常友好，非常文明。当然有辩论和分歧，但一切都非常友好，这要归功于舒默参议员和四位大佬[主持辩论的参议员]的调解。他们处理了讨论并很好地主持了讨论。我不认为我们有统计数据，但我会说我的印象是20位发言者之间的发言时间确实是均匀分配的。所以，你知道，它并没有集中在少数几位高级发言者身上。它确实相当均匀地分配在所有发言者之间。

围绕着监管人工智能的讨论很大程度上是关于如何控制AI模型并建立当它们造成伤害时的问责制。那么，如何在任何人都可以采用、定制或匿名部署的开源模型中实现这一点呢？

实际上，对于安全挑战来说，开放性和透明性通常更多是解决方案而不是问题本身。人工智能世界并不是荒野。通常会在像Hugging Face或GitHub这样的平台上发布，所以你实际上可以对模型进行调节，以防止危险模型的发布。最终，你可以着手对这些模型的文档进行工作，以确保有关它们的一些限制、一些偏见、一些风险的透明度，以便社会中的每个人都可以采取行动，包括政策制定者。因此，例如，对于某些特定领域或用例，AI应该有一些限制。如果你想在核能领域构建AI，当然，应该有某种适用于你的监管。我们的方法非常不是为了监管整个技术，因为这样做是没有生产力的。

所以你并不完全支持开源吗？有一些情况，比如，例如用于核能，你会赞成限制吗？

是的，开放性是一个渐变的过程。这取决于领域、用例、行业。我们不认为一切都应该是开源的，或者一切都应该是专有的、闭源的。

国会一直在讨论人工智能和对其进行监管已经有一段时间了。那么你认为实际上需要什么才能出台立法呢？

已经取得了一些进展。例如，如果你看一下NIST [国家标准与技术研究所]正在进行的风险评估框架工作，如果你看一下NSF [国家科学基金会]围绕开放数据集所做的一些工作… 我认为已经有一些工作已经开始了，希望它会继续下去。

最后一个问题：在你的日常生活中，无论是在工作中还是在个人生活中，你使用什么人工智能工具？

我用它来写作 - 尤其是因为英语不是我的母语。我用它来校对并帮助我在写作中找到更好的措辞。我在会议中使用一个记事本，这让我可以更少地专注于记笔记，更多地专注于倾听。所以这是一个系统，它在转录我的电话并做笔记，并为我创建提醒，例如跟进。有趣的是，大多数人并没有意识到，但他们每天都在使用人工智能。

**有关人工智能的问题？**给我发电子邮件，Shirin Ghaffary，我会尽力回答您的问题，并在以后的新闻简报中回答。

“一旦机器思考方法开始，很可能很快就会超越我们脆弱的能力。”

— 艾伦·图灵

值得关注

埃隆·马斯克表示，人工智能出现问题的后果是严重的，他预计会出台华盛顿的监管措施。### 深度学习

• 普利策奖获奖作家迈克尔·查邦和一群其他作家正在起诉OpenAI和Meta，指控这些公司滥用他们的私人数据。
• 据说Meta正在开发一款新的、更强大的AI系统，目标是明年发布。
• AI初创公司正在扩大办公面积。OpenAI计划在都柏林开设办事处，这是其在美国以外的第二个基地，而Cohere正在圣弗朗西斯科设立第二总部。
• 德国公司Helsing筹集了2.09亿欧元（2.23亿美元）用于国防AI。与此同时，专门为军事应用制造自主无人机技术的初创公司Shield AI正在从投资者那里筹集1.5亿美元。
• Stability AI推出了一个文本转音频产品，让人们可以使用简短的文本提示创建AI生成的音乐片段。
• Adobe将比OpenAI的竞争服务收取更低的费用用于其AI图像生成工具。

彭博社更多内容

获取科技日报以及更多彭博科技周刊直接发送到您的收件箱：

• 网络公告涵盖黑客和网络间谍的阴影世界
• 游戏进行中报道视频游戏业务
• 开机苹果独家报道，消费者科技新闻等
• 屏幕时间近距离观看好莱坞和硅谷的碰撞
• 声音片段报道播客、音乐行业和音频趋势