谷歌向澳大利亚监管机构报告关于人工智能深度伪造恐怖内容的投诉规模 | 路透社

Byron Kaye

2025-03-06

双子座标志在2024年5月20日的插图中可见。路透社/Dado Ruvic/插图/档案照片悉尼，3月6日（路透社） - 谷歌已通知澳大利亚当局，全球范围内收到超过250起投诉，称其人工智能软件被用于制作深度伪造恐怖主义材料。

字母表公司(GOOGL.O)这家科技巨头还表示，根据澳大利亚电子安全委员会的说法，它收到了数十份用户报告，警告其AI程序双子座被用于创建儿童虐待材料。根据澳大利亚法律，科技公司必须定期向电子安全委员会提供有关减少伤害努力的信息，否则面临罚款。报告期涵盖2023年4月至2024年2月。

自从OpenAI的ChatGPT在2022年底引起公众关注以来，全球监管机构呼吁建立更好的保护措施，以防止人工智能被用于促进恐怖主义、欺诈、深度伪造色情和其他滥用行为。

澳大利亚电子安全委员会称谷歌的披露为“全球首个洞察”，揭示用户可能如何利用该技术制作有害和非法内容。

“这强调了开发人工智能产品的公司在生成此类材料时，构建和测试保护措施的有效性是多么重要，”电子安全专员朱莉·因曼·格兰特在一份声明中表示。

在其报告中，谷歌表示收到了258份关于使用Gemini制作的涉嫌AI生成的深度伪造恐怖或暴力极端内容的用户报告，以及另外86份关于AI生成的儿童剥削或虐待材料的用户报告。

根据监管机构的说法，它没有说明验证了多少投诉。

一位谷歌发言人表示，它不允许生成或分发与促进暴力极端主义或恐怖、儿童剥削或虐待或其他非法活动相关的内容。

“我们致力于扩大我们的努力，以帮助确保澳大利亚人在网上的安全，”发言人通过电子邮件表示。

“我们提供给eSafety的Gemini用户报告数量代表了全球用户报告的总量，而不是确认的政策违规行为。”

谷歌使用了图像匹配系统——一种自动将新上传的图像与已知图像匹配的系统——来识别和删除使用Gemini制作的儿童虐待材料。

但监管机构补充说，它没有使用同样的系统来剔除使用Gemini生成的恐怖或暴力极端材料。

监管机构已对 Telegram 和 Twitter（现已更名为X）处以罚款，因其报告中存在不足。X已失去了一次上诉，关于其61万澳元（38.2万美元）的罚款，但计划再次上诉。Telegram也计划对其罚款提出挑战。路透社每日简报通讯提供您开始一天所需的所有新闻。注册这里。