OpenAI称更多中国团体利用ChatGPT从事恶意活动 | 联合早报

美国人工智能公司OpenAI星期四（6月5日）表示，越来越多中国团体正在利用该公司的人工智能技术开展隐蔽行动。

OpenAI定期发布平台上发现的恶意行为报告，例如用于开发和调试恶意软件，或为网站和社交媒体平台生成虚假内容。

综合路透社和《华尔街日报》报道，该公司星期四表示，“相当数量”的违规行为据信来自中国，最新报告中包含的10个样本案例中有四个可能源自中国。

OpenAI表示，虽然中国团体的行动范围和手法有所扩展，但目前侦测到的操作总体规模较小，目标受众也较为有限。

报告公布的其中一个案例是，有ChatGPT用户生成与中国相关政治和地缘政治内容，包括批评一款以台湾为中心的游戏、针对一位巴基斯坦活动人士的虚假指控，以及涉及美国国际开发署（USAID）关闭事件等的内容。

这些账号还生成对美国总统特朗普关税政策的批评内容，例如在社交平台X上生成“关税让进口商品贵得离谱，政府却大手笔援助海外，谁来吃苦？”的帖文。OpenAI已封禁了这些账号。

另一个案例中，中国相关账号利用AI来实施网络攻击，包括开源研究、脚本修改、系统配置排查，以及开发用于暴力破解密码和社交媒体自动化的工具。

OpenAI还发现有来自中国的ChatGPT账号生成极具对立性的社交媒体内容，在美国政治议题中分别支持争议双方，同时还制作了配套的文本和AI生成的用户头像。

据《华尔街日报》，中国驻美大使馆发言人刘鹏宇在一份声明中说，中国始终坚持智能向善的原则，反对窃取、篡改、泄露以及其他非法收集利用个人信息的行为。

刘鹏宇表示，网络空间虚拟性强，溯源难，行为体多样，中方希望有关方面采取专业和负责任的态度，在定性网络事件的时候基于充分证据，而不是无端猜测指责。