谷歌接逾250投诉 AI软件被用于深伪有害内容 | 联合早报

谷歌已通知澳大利亚当局，称从全球收到超过250起投诉，反映人工智能软件被用于制作深度伪造素材。

路透社报道，澳大利亚电子安全委员会称，谷歌的披露是“全球首个洞察（world-first insight）”，揭示用户如何利用AI制作有害和非法内容。

谷歌在报告称，公司从2023年4月至去年2月期间，收到258份投诉有关旗下AI软件“Gemini”涉嫌被用来制造深度伪造恐怖主义或暴力极端内容，而86份用户报告也称AI软件被用来生成儿童剥削或虐待内容。

谷歌使用“舱口匹配”（hatch-matching）系统，一种将新上传的图像与已知图像自动匹配的系统，来识别并删除使用Gemini制作的儿童虐待内容。

不过，监管机构称，谷歌没有使用相同的系统来清除由Gemini生成的恐怖主义或暴力极端内容。

延伸阅读

[澳洲遏制虚假信息传播 拟对违规社媒罚款

](https://www.bdggg.com/2024/zaobao/news_2024_09_13_706993) [Telegram延迟报告打击违规内容措施 遭澳洲重罚

](https://www.bdggg.com/2025/zaobao/news_2025_02_24_741501) 根据澳大利亚法律，科技公司必须定期向电子安全委员会报告有关减少网络危害的信息，否则将面临罚款。

监管机构早前对Telegram和X处以罚款，理由是它们的报告存在问题。X后来针对61万零500澳元（约51万3600新元）罚款提出的上诉被裁定失败，预计将再次提上诉。Telegram也打算提出上诉。