埃隆·马斯克等人工智能专家呼吁暂停技术发展——《华尔街日报》

包括特斯拉公司首席执行官埃隆·马斯克和人工智能先驱约书亚·本吉奥在内的多位科技高管和顶尖AI研究人员，正呼吁暂停迅猛发展的强大新AI工具研发。

暂停支持者表示，为期六个月或更长的暂缓期将让行业有时间制定AI设计安全标准，规避高风险AI技术的潜在危害。

蒙特利尔学习算法研究所所长本吉奥在接受采访时表示：“这些系统已经足够智能，可能以危害社会的方式被使用，而我们尚未完全理解其风险。”

这些担忧及暂停建议由非营利组织"生命未来研究所"协调发布在《暂停巨型AI实验：公开信》中，该机构将马斯克列为外部顾问。公开信团队发言人表示，周三公布的这封信还获得苹果联合创始人史蒂夫·沃兹尼亚克、Stability AI首席执行官埃马德·莫斯塔克，以及一直批评社交媒体和AI技术的人文技术中心联合创始人特里斯坦·哈里斯和阿扎·拉斯金的签署。

公开信并非要求停止所有AI开发，而是敦促企业暂缓训练比微软公司支持的OpenAI本月发布的GPT-4更强大的系统，这包括OpenAI的下一代技术GPT-5。

OpenAI官员表示尚未开始训练GPT-5。该公司首席执行官萨姆·奥尔特曼在接受采访时称，OpenAI始终将安全性作为开发重点，在GPT-4发布前曾耗费半年多时间进行安全测试。

“某种意义上，这就像对信徒布道，“奥尔特曼说，“我认为我们是最早、最积极、最大声讨论这些问题的机构。”

暂停开发的呼吁与科技公司和初创企业大力投入生成式AI的普遍愿望相冲突，这项技术能根据人类指令生成原创内容。去年秋天OpenAI推出具备长文本应答、编写类人化计算机代码等功能的聊天机器人后，生成式AI迅速引发热潮。

微软已将该技术应用于必应搜索引擎等产品。谷歌母公司Alphabet推出了竞争性系统，Adobe、Zoom和Salesforce等企业也相继发布先进AI工具。

“竞赛从今天开始，“微软CEO萨提亚·纳德拉上月表示，“我们将快速行动，全力以赴。”

埃隆·马斯克虽对人工智能表示担忧，仍在特斯拉应用了部分AI技术。照片：吉姆·沃森/法新社/盖蒂图片社这种做法引发了新的担忧，即快速推进可能在带来实际益处的同时产生意外后果。人工智能的进步已经超越了许多专家几年前认为可能达到的水平，这封信的组织者之一、未来生命研究所主席兼麻省理工学院物理学教授马克斯·泰格马克表示。

“将这种情况描述为军备竞赛是不幸的，”泰格马克先生说。“这更像是一场自杀竞赛。谁先到达那里并不重要。这只是意味着人类作为一个整体可能会失去对自己命运的控制。”

未来生命研究所上周开始起草这封信，最初允许任何人无需身份验证即可签名。有一段时间，阿尔特曼先生的名字被添加到信中，但后来被删除。阿尔特曼先生表示他从未签署过这封信。他说，公司经常与其他人工智能公司在安全标准上进行协调，并讨论更广泛的担忧。

“有些工作我们不做，因为我们认为我们还不知道如何使其足够安全，”他说。“所以，是的，我认为有多种方法可以在多个方面放慢速度，这很重要。这是我们战略的一部分。”

马斯克和沃兹尼亚克先生都表达了对人工智能技术的担忧。马斯克周三在推特上表示，先进人工智能技术的开发者“不会理会这一警告，但至少已经说出来了。”

马斯克先生同时也在特斯拉采用了一些AI工具用于公司的先进驾驶辅助功能。特斯拉上月宣布召回约362,800辆配备其以"全自动驾驶测试版"名义销售技术的车辆。美国最高汽车安全机构表示，该技术可能在极少数情况下违反当地交通法规，若驾驶员未能及时干预，可能增加碰撞风险。

Meta Platforms公司首席AI科学家Yann LeCun周二发推文表示，他未签署公开信是因为不认同其前提假设。

Stability AI首席执行官Mostaque先生周三在推文中表示，尽管签署了公开信，但他不同意六个月的暂停期。“这封信虽无强制力，但将开启重要讨论，有望为这个不透明的领域带来更多透明度和治理。”

微软拒绝置评，谷歌未立即回应评论请求。

Tegmark先生表示，许多公司面临将先进AI技术融入产品的"疯狂商业压力”。六个月的暂停期将为行业提供"喘息空间”，而不会让谨慎行事者处于劣势。

公开信指出，暂停应公开宣布且可核查，该领域所有关键参与者都应参与。“若无法迅速实施此类暂停，政府应介入并制定暂停令。“信中写道。

作者们写道，人工智能实验室和专家可以利用这段时间制定一套针对先进AI设计的共享安全规则，并应由外部专家进行审核和监督。

“我认为我们不能承受一味冒进、不计后果的代价，“本吉奥先生表示，他因发明现代AI所基于的系统而获得2018年图灵奖。“我们确实需要花时间共同思考这个问题。”

——欲获取更多《华尔街日报》科技分析、评论和头条新闻，请订阅我们的每周通讯。

联系迪帕·西塔拉曼，邮箱：[email protected]

本文刊登于2023年3月30日印刷版，标题为《马斯克与专家呼吁暂停AI技术发展》。