加利福尼亚州议会通过有争议的人工智能安全法案SB 1047 - 彭博社

加利福尼亚州的州议会批准了一项有争议的人工智能安全法案，要求公司确保其技术不会造成重大伤害。

该法案SB 1047受到了多位国家人物的批评和赞扬。它现在将返回州参议院进行确认投票和可能的修正，然后再提交给州长加文·纽森。该法案在州议会以41票赞成和9票反对通过。

SB 1047要求开发强大AI模型的公司采取“合理的注意”，确保其技术不会造成“严重伤害”，例如大规模伤亡或超过5亿美元的财产损失。该法案由州参议员斯科特·维纳提出，并于5月在州参议院通过，要求公司采取预防措施，例如实施一个可以随时关闭其技术的紧急停止开关。它还要求将模型提交给第三方测试，以确保它们在降低重大风险方面的有效性。

此外，该法案将为希望分享安全问题的AI公司员工创建举报人保护。未遵守该法案的公司可能会被加利福尼亚州检察长起诉。

维纳在一份声明中表示：“创新和安全可以并存——加利福尼亚州正在引领潮流。”他还表示：“通过这次投票，议会采取了真正历史性的步骤，积极确保这一令人兴奋的新技术在发展过程中保护公众利益。”他还称该法案为“轻触式、常识性措施”，将许多大型公司已经做出的安全承诺法典化。

在过去几个月中，该法案遭到了许多主要科技领袖、初创公司和风险投资家的激烈反对，他们表示这代表了政府对仍处于初期阶段的技术的过度干预，并可能抑制该州的科技创新。上周，OpenAI公开表达了对该法案的反对，认为这样的政策应该在联邦层面而不是州层面实施。

包括前众议院议长南希·佩洛西、美国众议员罗·卡纳、旧金山市长伦敦·布里德等政治人物也对该法案表示反对，呼应了科技行业的担忧，认为这可能会妨碍加州在人工智能创新方面的领导地位。

但在投票前的最后阶段，该法案也获得了一些人工智能领域主要人物的支持。周二，埃隆·马斯克意外地表示支持，尽管他说这是一个“艰难的决定，会让一些人感到不满。”OpenAI的竞争对手Anthropic，以安全导向著称，也谨慎地支持该法案，上周表示“好处可能超过成本”，并且可以切实实施相关条款。在维纳实施了该公司建议的几项修正案后，Anthropic对该立法的支持程度有所增加。

维纳为该法案辩护，强调其条款仅适用于在训练大型模型上花费超过1亿美元或在微调模型上花费超过1000万美元的公司，这将使大多数小型初创公司免受影响。这位立法者还表示，虽然他会支持联邦立法，但国会在监管科技方面历来反应缓慢，在缺乏国家行动的情况下，他认为加州有责任引领。

关于SB 1047的争斗将继续，因为该法案正在送往纽瑟姆的办公桌。OpenAI、科技孵化器Y Combinator和风险投资公司Andreessen Horowitz——SB 1047的批评者——都有注册的游说者在处理该法案。