科技高管警告：AI带来的"灭绝风险"堪比疫情与核战——华尔街日报

OpenAI首席执行官萨姆·奥尔特曼本月早些时候在参议院小组委员会作证后向新闻媒体发表讲话。图片来源：jim lo scalzo/Shutterstock科技公司高管和人工智能科学家们正在就AI发出警告，他们在周二的一份联合声明中表示，这项技术带来的灭绝风险与流行病和核战争一样大。

超过350人签署了由人工智能安全中心发布的一份声明，该组织表示其致力于降低AI风险。

该组织表示：“减轻AI带来的灭绝风险应该成为与流行病和核战争等其他社会规模风险同等的全球优先事项。”

签署者表示，他们希望就AI最严重的风险展开讨论。开发了ChatGPT的OpenAI公司首席执行官萨姆·奥尔特曼和该公司首席技术官米拉·穆拉蒂也在声明签署者之列。

其他签署者包括微软首席技术官凯文·斯科特；谷歌AI高管莉拉·易卜拉欣和玛丽安·罗杰斯；以及联合国前裁军事务高级代表安吉拉·凯恩。Skype和Quora的领导者们也签署了该声明。

科技行业对AI表达了兴奋之情，但人们也越来越担心这项技术可能失控。自OpenAI发布ChatGPT以来，批评人士加强了对AI监管的呼吁，称这项技术对人类构成了难以估量的威胁。

近几个月来，人工智能股票飙升，投资者押注于他们认为是新的计算时代。英伟达，这家开发人工智能技术的半导体公司，于周二成为首家市值达到1万亿美元的芯片制造商，加入了苹果、微软、亚马逊和谷歌母公司Alphabet 的世界万亿美元公司行列。

包括埃隆·马斯克在内的人工智能专家和科技高管在3月签署了一封信，呼吁人工智能开发者暂停该技术的工作。他们表示，至少六个月的暂停期将给行业时间制定人工智能设计的安全标准，并遏制最危险的人工智能技术的潜在危害。

签署者周二表示，尽管公众已经认识到人工智能的风险，但还有更多挑战需要讨论。他们还希望“建立越来越多专家和公众人物对高级人工智能最严重风险的共同认识。”

在线声明为人工智能科学家、教授、高管和领导者提供了签署的选项。

人工智能本质上是指计算机从大量数据中学习并随后模仿人类反应的能力。

科技行业多年来一直在开发人工智能，但该技术在11月OpenAI发布ChatGPT后变得更加普及。这款免费聊天机器人可以快速回答几乎所有问题，让用户生成工作和学校问题的答案。ChatGPT的答案有时是错误的。支持者表示，该技术有潜力改变行业并重塑部分劳动力。

ChatGPT的发布引发了谷歌、微软等科技公司竞相推出类似技术的热潮。

尽管行业领袖和科技高管们已警告过人工智能的危险性，但周二签署联名信的人士表示他们尚未探讨最紧迫的风险。

拜登政府近月来指出AI对公共安全、隐私和民主构成威胁，但政府监管权限有限。比尔·盖茨曾表示他认为AI需要合理监管，但也对该技术充满期待。他未签署周二的公开信。

网络安全负责人认为AI能带来显著效益，但早期生成式AI的潜力与风险被过度夸大了。

联系记者Alyssa Lukpat请致信[email protected]

本文刊登于2023年5月31日印刷版，标题为《科技高管警示人工智能威胁》