意大利因数据隐私问题禁止ChatGPT——《华尔街日报》

意大利隐私监管机构暂时禁止了OpenAI的ChatGPT，称该人工智能聊天机器人不当收集和存储信息，这加速了政策制定者推出新的人工智能规则的进程。

OpenAI上周五晚些时候表示，已根据监管机构当天早些时候发布的命令在意大利禁用ChatGPT，该命令要求公司必须暂停处理意大利用户的数据。

这是自ChatGPT近几个月在全球爆红以来，首批在全国范围内限制其使用的措施之一。在美国和欧洲各地，出于从数据保护到虚假信息再到就业安全的担忧，要求监管这种自生成式人工智能工具的呼声越来越高。

意大利数据保护局表示，OpenAI“没有法律依据”使用其收集的数据“来训练支撑该平台的算法”。

OpenAI表示，它认为自己遵守了欧洲的隐私法律，将与意大利的隐私监管机构密切合作，并希望很快能在意大利恢复提供ChatGPT服务。该公司表示：“我们也认为人工智能监管是必要的。”

该监管机构表示，已对OpenAI展开调查，并给该公司20天的时间来展示其正在采取哪些措施来遵守欧盟的隐私规则，否则将面临罚款。根据欧盟《通用数据保护条例》，最高罚款为公司全球年收入的4%或2180万美元，以较高者为准。

意大利监管机构还表示，没有系统来验证用户的年龄并阻止13岁以下的儿童使用该聊天机器人，从而使他们暴露在“绝对不适合其发育和自我意识水平的回答”中。

遵守监管机构的要求可能意味着OpenAI需要增加年龄验证、更新隐私政策，并向用户提供更详细的信息，说明他们的数据可能被如何使用。

如果监管机构坚持要求OpenAI采取措施从其训练数据中排除或删除意大利可识别个人的信息，或允许个人反对将其信息纳入其中，可能会引发更复杂的争议——因为像ChatGPT这样的工具是通过互联网上数十亿份文档进行训练的。

OpenAI周五表示，它积极致力于“减少训练ChatGPT等AI系统中的个人数据，因为我们希望AI学习的是世界知识，而非个人隐私。”

对AI工具尤其是聊天机器人的审查正在加强。本周早些时候，一群AI研究人员和科技高管呼吁暂停训练下一代AI工具六个月，以便行业有时间制定安全标准。

OpenAI被要求暂停处理意大利用户的数据。图片来源：FLORENCE LO/REUTERS据《华尔街日报》报道，新闻出版商已开始研究其内容被用于训练ChatGPT等工具的程度，以及获得补偿的法律途径。

监管机构也在密切关注AI。欧盟已接近完成对一项法案的最终辩论阶段，该法案于2021年首次提出，旨在规范整个欧盟的人工智能使用。它可能包括禁止某些面部识别用途，并可能要求ChatGPT等工具的制造商进行风险评估，并验证用于训练软件的数据质量。

英国本周发布了一份白皮书，建议如何授权其监管机构监督人工智能的发展，重点关注工具的安全性、透明度和公平性等问题。

包括摩根大通在内的部分企业及其他实体近几个月已禁止其内部网络访问ChatGPT。威瑞森通信公司表示，此举是为了防止专有数据所有权流失的风险。

出于对作弊及学习发展的担忧，纽约市公立学校系统于一月份禁止其互联网网络和学校设备使用该聊天机器人。

联系作者玛格丽塔·斯坦卡蒂，邮箱：[email protected]；萨姆·谢克纳，邮箱：[email protected]