OpenAI封禁涉嫌开发监控工具的账户 - 彭博社

摄影师：安德烈·鲁达科夫/彭博社OpenAI公司表示，近期封禁了多个使用ChatGPT编写销售话术和调试代码的账户，这些账户涉嫌为一款可能源自中国的社交媒体监控工具提供服务。这是该人工智能初创企业为遏制其强大AI模型遭恶意利用所采取的更广泛行动之一。

根据这家旧金山初创企业周五发布的报告，涉事账户利用ChatGPT宣传并强化其声称的AI助手功能，该工具能收集关于美英等西方国家反华抗议活动的实时数据与报告。报告称这些信息最终被转交给中国有关部门。

这一发现正值美国对中国利用本国技术推进自身利益的担忧日益加剧之际。“根据他们自行生成的资料，这相当令人不安地揭示了一个非民主行为体如何试图将民主国家或美国本土的AI用于非民主目的，“OpenAI情报与调查团队首席研究员本·尼莫在周四的电话会议上表示。

尼莫指出，通过披露此类案例，OpenAI旨在揭示"威权政权可能如何试图利用美国构建的AI、民主的AI，来对抗美国及其盟国，以及他们自己的人民。”

OpenAI表示，该网络中的用户还使用了其他AI工具开发代码，包括Meta Platforms公司开发的开源模型Llama的某个版本。Meta在声明中回应，若其服务被涉及，很可能只是用户可用的众多工具之一，其中包括中国制造的AI模型。OpenAI强调其无法确认这些代码是否已被实际部署。

这款名为“千越海外舆情AI助手”的软件虽被初创公司获取了相关营销文案，但其功能真实性无法通过OpenAI独立验证。营销材料详述该“社交监听”软件旨在向中国有关部门、情报人员及驻外使领馆提交监控报告，其功能聚焦于识别西方国家网络上涉及中国人权示威活动的讨论。软件描述显示其数据抓取范围涵盖X平台、Facebook和Instagram等社交媒体对话。

根据OpenAI威胁报告，将其AI技术用于通讯监控或未经授权的个人监视——包括"代表试图压制个人自由与权利的政府及威权政权”——均违反公司政策。

近月来，OpenAI持续向美国政界警示其认为中国AI技术构成的经济与国家安全威胁，特别是在深度求索等中国初创公司推出极具竞争力AI模型后。部分美国对华鹰派人士批评Meta公司开源AI工具的决策，认为这助长了中国AI企业的发展。尽管OpenAI目前保持模型私有化，但面对深度求索等企业的竞争压力，该公司近期已开始考虑开源部分模型。

Meta公司在声明中指出全球AI模型日益普及，强调某些技术的西方垄断对恶意行为者影响有限。“中国正投入超万亿美元谋求技术超越，其科技企业发布开源AI模型的速度已与美国公司旗鼓相当，“该公司代表表示。

在其报告中，OpenAI还分享了其他几个因滥用其工具而被封禁的账户实例——包括与伊朗影响力行动相关的账户，这些账户利用ChatGPT生成社交媒体帖子和文章；另一个账户似乎代表了一个模仿与朝鲜相关的诈骗行为的欺骗性就业计划；还有一组很可能与中国有关的账户，生成了批评美国政府的西班牙语文章。