人工智能法案已经完成_风闻

人工智能法案已经完成

以下是将会（和不会）改变的内容， 艰苦的工作现在开始了。

梅丽莎·海基莱

2024年3月19日

《麻省理工技术评论》

这是正式的。经过三年的时间，欧盟新的全面人工智能法律《人工智能法》上周通过了最后一关，欧洲议会投票批准了该法律。（通过我去年写的这篇文章，你可以了解关于人工智能法案你需要知道的五件主要事情。)

对我个人来说，这也像是一个时代的结束:我是第一个在2021年获得人工智能法案早期草案独家新闻的记者，并从那时起一直密切关注随后的游说活动。

 但现实是艰苦的工作现在就开始了。该法律将于5月生效，生活在欧盟的人们将在年底前开始看到变化。监管机构需要建立起来，以便正确执行法律，公司将有长达三年的时间遵守法律。

以下是将会（和不会）改变的内容**:**

1. 一些人工智能应用将在今年晚些时候被禁止

该法案限制对人民基本权利构成高风险的人工智能使用案例，如医疗保健、教育和警务。这些将在今年年底前被取缔。 它还禁止一些被认为构成“不可接受的风险”的用途。它们包括一些非常独特和模糊的用例，例如人工智能系统部署“潜意识、操纵或欺骗技术来扭曲行为和损害知情决策”，或利用弱势群体。人工智能法案还禁止推断敏感特征的系统，如某人的政治观点或性取向，以及在公共场所使用实时面部识别软件。通过互联网抓取AI创建面部识别数据库也将被禁止。 然而，有一些相当大的警告。执法机构仍被允许在公共场所使用敏感的生物识别数据以及面部识别软件来打击恐怖主义或绑架等严重犯罪。一些民权组织，如数字权利组织Access Now，称人工智能法案是“人权的失败”，因为它没有彻底禁止面部识别等有争议的人工智能使用案例。虽然公司和学校不允许使用声称可以识别人的情绪的软件，但如果是出于医疗或安全原因，他们可以使用。

2. 当你与人工智能系统互动时，这一点会更加明显

科技公司将被要求为换脸工具（deepfakes）和人工智能生成的内容贴上标签，并在人们与聊天机器人或其他人工智能系统互动时通知他们。《人工智能法案》还将要求公司以一种可以检测的方式开发人工智能生成的媒体。这在对抗错误信息方面是一个有希望的消息，并将大大推动围绕水印和内容来源的研究。

然而，这一切说起来容易做起来难，研究远远落后于监管要求。水印仍然是一项实验性技术，很容易篡改。仍然很难可靠地检测人工智能生成的内容。一些努力显示出希望，例如C2PA，一种开源的互联网协议，但要使来源技术可靠并建立一个行业标准还需要做更多的工作。

3. 如果公民受到人工智能的伤害，他们可以投诉

人工智能法案将设立一个新的欧洲人工智能办公室，以协调合规、实施和执法（他们正在招聘人员）。得益于人工智能法案，欧盟公民在怀疑自己受到人工智能系统伤害时可以提交对人工智能系统的投诉，并可以获得人工智能系统做出决策的原因解释。在一个日益自动化的世界里，这是赋予人们更多权力的重要的第一步。然而，这将要求公民具备相当高的人工智能素养，并意识到算法危害是如何发生的。对于大多数人来说，这些仍然是非常陌生和抽象的概念。

4.   人工智能公司将需要更加透明

大多数人工智能的使用将不需要遵守人工智能法案。该法案三年后全面生效时，只有在关键基础设施或医疗保健等“高风险”领域开发技术的人工智能公司才会承担新的义务。其中包括更好的数据治理、确保人类监督以及评估这些系统将如何影响人们的权利。

 正在开发“通用人工智能模型”（如语言模型）的人工智能公司还需要创建和保存技术文档，显示他们如何构建模型、如何遵守版权法，并发布一份公开可用的摘要，说明训练人工智能模型所用的训练数据。 与科技公司对其模型中的数据保密的现状相比，这是一个巨大的变化，将需要对人工智能领域混乱的数据管理实践进行彻底改革。

 拥有最强大人工智能模型的公司，如GPT-4和Gemini，将面临更繁重的要求，例如必须进行模型评估和风险评估及缓解，确保网络安全保护，并报告任何人工智能系统失败的事件。未能遵守规定的公司将面临巨额罚款，或者其产品可能被禁止进入欧盟。

另外值得注意的是，免费开源的人工智能模型共享了模型构建的每个细节，包括模型的架构、参数和权重，因此可以免除《人工智能法》的许多义务。

**原文标题是：**The AI Act is done. Here’s what will (and won’t) change

The hard work starts now.