加州州参议员斯科特·维纳推动监管人工智能公司法案——彭博社

旧金山民主党人、加州州参议员斯科特·维纳在2024年1月旧金山举行的彭博新能源财经峰会期间。

摄影师：大卫·保罗·莫里斯/彭博社在去年州长加文·纽瑟姆否决了一项要求大公司对其技术造成的损害承担责任的立法后，一位加州议员正再次推动该州对人工智能进行监管。

旧金山民主党人、州参议员斯科特·维纳提出了一项法案，要求开发超过特定计算性能阈值的人工智能模型的公司公开发布安全和安保协议，以评估该技术对人类潜在的灾难性风险。根据该法律，人工智能公司还需要向州总检察长报告任何“重大安全事件”，例如敏感技术细节的盗窃。可能受到该立法提案影响的公司包括OpenAI、Alphabet旗下的谷歌和Anthropic。

这些全国首创的透明度要求是周二发布的SB 53修正案的一部分，维纳在今年早些时候提出了该法案。该立法包括对人工智能公司内部举报人的保护，以及创建一个公共云，为初创公司和学术研究人员提供低成本的计算能力访问。

“随着人工智能持续取得显著进展，立法者必须与顶尖AI专家合作制定政策，在守护人工智能巨大潜在效益的同时防范实质性风险，”维纳在为修正案发布准备的讲话中表示。“SB 53法案在促进创新与建立保障措施之间取得了恰当平衡，为近年来最非凡的新技术构建了信任、公平和问责的框架。”

这项提案要求出台之际，美国参议院刚否决了禁止各州对快速发展的AI领域立法的动议。维纳在早期尝试失败后仍坚持推动监管，表明AI监管持续成为立法者关注焦点，他们声称要保护公众免受该技术潜在的毁灭性危害。

维纳此前起草的AI监管法案SB 1047曾引发部分AI公司、科技行业领袖和硅谷风险投资人的强烈反对，因其要求企业对技术造成的灾难性人身伤害承担责任。尽管SB 1047在加州议会获得通过，但最终被州长纽森否决，理由是该法案负担过重。

虽然SB 53法案包含透明度要求，并规定企业未披露重大安全事件将面临处罚，但未纳入SB 1047中的责任条款。

纽瑟姆在否决SB 1047法案后成立了一个关于人工智能前沿模型的工作组。该小组由知名AI研究者李飞飞（曾反对去年的立法）等成员组成，负责为加州制定政策指南。维纳提出的SB 53法案中关于透明度要求的新措辞，与该工作组近期报告中的广泛建议相呼应。该工作组并未提出任何具体立法建议。

目前，Meta Platforms Inc.、谷歌、OpenAI和Anthropic等公司已定期发布其模型的安全指南；SB 53法案旨在将这些程序规范化和标准化。

修正后的法案预计将于本月晚些时候提交加州议会委员会审议。维纳称其为"进行中的工作"，并表示未来几周将与利益相关方商讨以完善提案。