巴黎人工智能行动峰会的承诺还远远不够——彭博社
Parmy Olson
2025年2月10日周一，巴黎人工智能行动峰会与会者。
摄影师：Nathan Laine/彭博社本周巴黎接待了来自100多个国家的代表，共同探讨人工智能的未来。最终60国签署了一份模糊的协议，该协议几乎无助于提升技术安全性。
线索就在名称中。这个国际会议系列最初由英国于2023年作为"人工智能安全峰会"发起，到巴黎举办时已更名为"人工智能行动峰会"。总统埃马纽埃尔·马克龙借此平台宣布了1090亿欧元（1130亿美元）的AI投资计划，并向全球推介法国科技。
彭博社观点特朗普让我们再次讨论贸易问题。这是一场胜利"关税侠"再次出手——市场却置若罔闻黄金狂热FOMO正为市场埋下暴跌隐患英国社会已支离破碎，无力承担辅助死亡立法在众多陈词滥调中，你需要费力寻找与安全相关的内容。这份长达799字的最终声明更侧重于AI的经济机遇，而非推进此前在英国和韩国峰会上确立的安全措施。
尽管布莱切利公园和首尔会议确保了大型AI公司的具体承诺，即通过新成立的国际安全机构网络测试其系统，但巴黎声明却呼吁实现诸如使AI“值得信赖”等模糊目标。令人难以置信的是，这对美国来说仍然过于繁重，其副总统JD·万斯抱怨道：“对AI行业的过度监管可能会扼杀这个正在崛起的变革性产业。”
首先，该协议远非过度。其次，美国的AI产业不仅仅是“正在崛起”。其公司是行业的标杆，英伟达公司在训练和推理芯片上几乎形成事实垄断，微软公司和字母表公司则掌控着大部分云基础设施和最受欢迎的AI模型。
但美国拒绝签署该协议，可能是出于对中国日益增长的偏执。上个月，一家名为深度求索的中国小公司凭借一款AI模型登上应用排行榜榜首，其性能媲美最新版ChatGPT，构建成本更低，且允许任何人免费使用和复制——你可以确信硅谷的工程师们此刻正在这么做。
更奇怪的是，英国也以看似相反的理由拒绝签署声明。政府发言人表示：“我们认为该宣言未能就全球治理提供足够的实践指引。”
这听起来更合理。需要提醒的是：人工智能正以前所未有的速度发展，其系统即将在没有明确护栏的情况下做出关于医疗保健、执法和金融的高风险决策。麻省理工学院物理学教授、未来生命研究所联合创始人马克斯·泰格马克表示，模糊的承诺是"对国际与技术合作的倒退"。他一直是倡导人工智能安全措施的主要声音之一。
他表示，峰会至少应该解决上个月由150多位专家签署的《国际人工智能安全报告》提出的安全问题。峰会还应该将布莱切利公园和首尔峰会上的"自愿承诺"转化为对人工智能公司的要求，即在向公众部署新系统之前进行安全测试，并分享结果。
如果能设定一个制定具有约束力的国际法律的最后期限，以及更清晰的阈值来规定人工智能系统何时达到某些能力水平（例如推理或速度）以触发进一步审计，那也会是件好事。
我们不应该等到灾难发生，政府才意识到这种变革性技术的风险。例如，我们不应该重蹈对汽车安全反应迟缓的覆辙，当时直到1960年代数千人死亡后，安全带才成为强制要求。
《华盛顿邮报》记者杰弗里·福勒近期报道的一则轶事凸显了事情可能如何失控。这位作家让新版"自主代理"ChatGPT独自操作他的电脑并获取信用卡权限。在要求其寻找最便宜的鸡蛋后，该机器人通过Instacart以高价购买了一打鸡蛋，加上服务费和小费共计31美元。“它失控了，“福勒写道。
虽然这或许比不上AI对电网或金融市场造成的破坏严重，但这个例子表明，即使企业和政府争相部署这些系统，其中的错误仍会带来代价且可能毫无征兆地发生。
如果话题换成医疗保健、航空或社交媒体，万斯提出的优先考虑"促增长"政策而非安全的呼吁会显得荒谬可笑。人工智能领域也不应例外。政府必须更积极地扮演主动监管者的角色，并强调标准、权利和保护的价值。这可能不会为它们赢得科技行业内外企业的多少好感，但远比袖手旁观直到灾难发生要好得多。在卢旺达基加利举行的下一届峰会需要在AI的错误从擅自购买杂货升级到更严重事件之前，建立更具体的监督机制。更多彭博观点内容：
想要更多彭博观点？OPIN<GO>。或者您可以订阅我们的每日通讯。