顶尖人工智能公司加入政府努力制定安全标准 - 彭博社

OpenAI是新成立的AI安全研究所联盟的200多个成员之一。

摄影师：David Paul Morris/Bloomberg美国顶尖人工智能公司将参与政府主导的努力，旨在制定有关该技术的联邦标准，以确保其安全和负责任地部署，商务部周四表示。

OpenAI，Anthropic，Microsoft Corp.，Meta Platforms Inc和Alphabet Inc.的Google是新成立的AI安全研究所联盟的200多个成员之一，商务部长吉娜·雷蒙多表示。此外，还有Apple Inc.，Amazon Inc.，Hugging Face Inc.和IBM等公司。

行业顶尖公司将与商务部旗下的国家标准与技术研究所以及其他技术公司、公民社会团体、学者以及州和地方政府官员合作，制定有关人工智能的安全标准。

“拜登总统指示我们动用一切手段实现两个关键目标：制定安全标准并保护我们的创新生态系统，”雷蒙多在一份声明中表示。

随着人工智能技术的快速发展并有望颠覆行业，主要科技公司一直在与拜登政府和华盛顿的政策制定者就人工智能监管进行接触。联邦官员寻求维护美国在人工智能发展方面的领导地位，意图制定规则，既保护美国人免受诸如错误信息和侵犯隐私等危害，又促进该技术在医疗保健、教育和其他行业中推动进展。

“进步和责任必须手牵手。如果我们要制定关于安全和可信人工智能的共同标准，跨行业、政府和公民社会的合作至关重要，”Meta全球事务总裁尼克·克莱格在一份声明中表示。“我们对成为这个联盟的一部分并与人工智能安全研究所密切合作充满热情。”

此前：拜登签署全面命令规范人工智能

周四的倡议是作为乔·拜登总统去年秋天签署的全面行政命令的一部分，该命令要求商务部促进人工智能模型的安全、安全性和测试标准的制定，以及为人工智能生成的内容制定水印规则。

知名行业初创公司，包括Scale AI，为生成式人工智能模型提供训练数据，以及Altana AI，利用人工智能绘制全球供应链地图，也将参与制定安全标准。

“通过这样做，我们不仅有助于负责任地使用人工智能，还加强了美国作为人工智能领域全球领导者的地位，”Scale AI公共部门总经理约翰·布伦南在一份声明中表示。