欧洲立法者通过具有里程碑意义的人工智能法案 - 《华尔街日报》

这项由欧洲立法者通过的新法规适用于欧盟市场内所有AI产品，无论其开发地为何处。图片来源：Jean-Francois Badias/美联社布鲁塞尔讯——欧洲立法机构通过了全球迄今为止最全面的人工智能法规，为AI系统开发者制定了广泛规则，并对技术应用实施新限制。

欧洲议会周三投票表决，在去年12月与欧盟成员国达成政治协议后最终批准该法案。这些将在未来数年逐步生效的规则，禁止特定AI用途，引入新的透明度要求，并要求对高风险AI系统进行风险评估。

该法案出台之际，全球正围绕AI技术的未来及其潜在风险与效益展开广泛讨论。随着企业和消费者日益采用AI技术，埃隆·马斯克上周起诉OpenAI及其首席执行官萨姆·奥尔特曼，指控其违背公司创始协议，将利润置于AI造福人类之上。奥尔特曼曾表示AI开发需极度谨慎，同时蕴含巨大商业潜力。

新法规适用于欧盟市场上的AI产品，无论其开发地点在哪里。违规企业将面临最高达全球营收7%的罚款。

参与该法律谈判的意大利欧盟议员布兰多·贝尼菲表示，《人工智能法案》是"全球首个为安全且以人为本的AI发展制定明确路径的法规"。

虽然该法律仅适用于欧盟，但由于大型AI公司不太可能放弃拥有约4.48亿人口的欧盟市场，预计将产生全球性影响。其他司法管辖区也可能以这项新法为蓝本制定各自的AI法规，从而产生更广泛的连锁反应。

年利达律师事务所合伙人纪尧姆·库内松表示：“任何打算开发或使用AI工具的主体都必须遵守这套规则。”

全球多个司法管辖区已推出或正在考虑制定新的AI规则。拜登政府去年签署行政命令，要求主要AI公司在开发可能构成严重风险的模型时通知政府。中国监管机构已出台针对生成式AI的专项规定。

欧盟《人工智能法案》再次彰显了其作为全球规则制定者的影响力。本月早些时候生效的另一部针对科技巨头的竞争法已迫使苹果修改应用商店政策，并促使谷歌母公司Alphabet调整欧盟用户的搜索结果展示方式。另一项针对网络内容的法律正推动大型企业报告其处理平台非法内容和虚假信息的措施。

《人工智能法案》不会立即生效。该法律中的禁令，包括禁止在学校和工作场所使用情绪识别AI，以及禁止无针对性地抓取图像用于面部识别数据库，预计将在今年晚些时候开始执行。法律的其他部分将在未来几年内逐步生效。

新规最终将要求通用AI模型提供商（这些模型基于海量数据集训练，并支撑更专业的AI应用）提供其模型的最新技术文档。他们还必须发布用于训练模型的内容摘要。

法国Mistral AI的首席执行官Arthur Mensch表示，《人工智能法案》对他的公司来说是一个可管理的负担。照片：Edouard Jacquinet为《华尔街日报》拍摄最强大的AI模型制造商（被认为具有欧盟所称的“系统性风险”）将被要求对这些模型进行最先进的安全评估，并向监管机构报告其模型发生的严重事件。法律还规定，他们必须实施潜在风险的缓解措施和网络安全保护。

关于通用AI的规定是在欧盟立法过程中增加的，此前OpenAI的ChatGPT等知名聊天机器人公开推出。行业团体和一些欧洲政府反对对通用AI实施全面规则，称立法者应关注该技术的高风险使用，而非支撑其使用的模型。

作为Mistral AI总部所在地的法国与德国曾试图淡化该法案部分提案。Mistral首席执行官亚瑟·门施近期表示，尽管他认为立法本应聚焦AI应用而非底层技术，但经过最终谈判减轻部分义务后，AI法案对其公司而言将成为可承受的负担。

立法者称该法案是近年来欧盟遭遇游说压力最重的立法之一。

企业监督机构及部分议员主张立法应包含更严格条款——如安全评估与风险缓释规则——这些要求应覆盖所有通用AI模型，而非仅针对最强大模型。

法案另一要点要求对所谓"深度伪造"内容（指由人工智能生成或篡改、可能看似真实的图像/音频/视频）进行明确标注。被立法者认定为高风险的AI系统（如用于移民管理或关键基础设施的系统）必须进行风险评估并确保使用高质量数据等。

欧洲立法者表示他们致力于保持立法灵活性以适应技术快速演进。例如法案规定欧盟执行机构欧盟委员会可根据市场与技术发展，更新通用AI模型定义中的技术要素。

写信给金·麦克拉尔，邮箱：[email protected]，以及山姆·谢克纳，邮箱：[email protected]