人工智能可能有助于生产武器，Anthropic首席执行官Dario Amodei表示 - 彭博社

达里奥·阿莫代，Anthropic首席执行官，在周二在华盛顿特区参加参议院听证会期间。

摄影师：Valerie Plesch/Bloomberg一家公司称其人工智能产品是“人们可以依赖的工具”的首席执行官周二警告参议员，人工智能比预期更接近超越人类智能，甚至有助于生产大规模杀伤性武器。

Anthropic的首席执行官兼联合创始人达里奥·阿莫代提到了减少人工智能短期偏见风险以及对人类的长期风险的必要性。他在周二告诉参议院司法委员会小组，中期面临最“令人担忧的迫近性和严重性” — 包括恶意行为者可能利用人工智能使生物武器制造变得更容易的可能性。

他敦促通过立法以避免全球面临的计算机系统风险，他说，即使是它们的创造者也可能不理解。

作为一家“公益公司”组织的人工智能公司Anthropic的阿莫代建议美国政策来确保人工智能供应链 — 从提供计算能力的半导体到它们产生的模型。他告诉隐私、技术和法律小组委员会，这些政策将“帮助美国有足够的发展空间来对我们自己的公司实施严格的标准”，而不会向对手让步。他说，这应该伴随着对最强大人工智能系统的测试和审计，这一过程应得到政府资助的支持。

康涅狄格州民主党参议员理查德·布卢门撒尔（Richard Blumenthal）是该小组委员会主席，他将这一时刻与国会过去未能监管社交媒体或为美国消费者提供最基本的数据隐私保护相比较。

认识到人工智能创新的速度远远超过了国会通过约束性法规的能力，拜登政府上周获得了领先人工智能公司（包括Anthropic在内）的一系列承诺，允许外部审计，标记人工智能生成的内容并投资于安全等措施。

阅读更多： 拜登誓言在公司公布保障措施时保持“警惕”

布卢门撒尔对这一承诺表示赞同，该承诺得到了OpenAI、Alphabet Inc.的Google、微软公司、Meta Platforms Inc.和亚马逊公司的支持。但他表示国会仍需要介入监管这项技术。

“这些承诺缺乏具体性，也无法强制执行，”布卢门撒尔说。“我知道人们对国会以及我们行动的能力存在疑虑，但这里的紧急情况要求采取行动。”