“AI教父”和其他人敦促更多深度伪造技术监管的公开信 | 路透社

一名演员在伦敦制作合成面部重塑视频时，下半脸被绿色线框模型覆盖，这种视频又被称为深度伪造，拍摄于2019年2月12日。图片拍摄于2019年2月12日。路透社电视台/路透社提供伯克利，2月21日（路透社）-包括技术先驱Yoshua Bengio在内的人工智能专家和行业高管签署了一封公开信，呼吁加强对深度伪造的监管，称这可能对社会造成潜在风险。

该团体在信中表示：“如今，深度伪造往往涉及性暴力图像、欺诈或政治虚假信息。由于人工智能正在迅速发展，并且使深度伪造变得更加容易，因此需要采取保障措施。”这封信是由加州大学伯克利分校的人工智能研究员Andrew Critch起草的。

深度伪造是由人工智能算法创建的逼真但虚构的图像、音频和视频，而技术的最新进展使它们越来越难以与人类创作的内容区分开来。

这封信的标题是“扰乱深度伪造供应链”，其中提出了如何监管深度伪造的建议，包括对深度伪造儿童色情制品进行全面刑事化、对任何故意制作或促进有害深度伪造传播的个人进行刑事处罚，并要求人工智能公司防止其产品制造有害深度伪造。截至周三上午，来自各行各业的400多人，包括学术界、娱乐界和政界人士，签署了这封信。

签署者包括哈佛大学心理学教授史蒂文·平克（Steven Pinker）、算法公正联盟创始人乔伊·布拉明威尼（Joy Buolamwini）、两位前爱沙尼亚总统、谷歌DeepMind的研究人员以及OpenAI的一位研究人员。自微软支持的OpenAI于2022年底推出ChatGPT以来，确保人工智能系统不会对社会造成伤害一直是监管机构的重点关注，ChatGPT让用户惊叹不已，能够进行类似人类对话和执行其他任务。一些知名人士曾多次发出关于人工智能风险的警告，特别是埃隆·马斯克去年签署的一封信，呼吁暂停开发比OpenAI的GPT-4人工智能模型更强大的系统长达六个月。