亲马科斯阵营的菲律宾ChatGPT账号因滥用AI技术遭封禁 | 南华早报

OpenAI封禁了一批来自菲律宾的ChatGPT账号网络，这些账号利用其平台生成社交媒体评论，吹捧总统小费迪南德·马科斯。此次打击行动表明人工智能(AI)可能被滥用于开展影响力操作。这家美国AI先驱企业表示，已识别出这些使用ChatGPT生成英语和他加禄语简短评论的账号，相关内容随后被发布在Facebook和TikTok上。根据6月5日发布的报告，由于许多评论包含表情符号，该公司将此次行动代号命名为"High Five"。

“该行动生成并发布的在线评论简短但具有党派倾向，通常赞扬马科斯总统及其政策，或批评[副总统萨拉·杜特尔特-卡皮奥]。“OpenAI在报告中写道。

报告还指出，部分评论用"菲奥娜公主"称呼副总统，可能影射《怪物史莱克》系列电影。近年来，将杜特尔特-卡皮奥比作片中食人魔公主的梗图在网络上广泛流传。

OpenAI表示该行动似乎遵循三阶段流程：

首先，操作者使用ChatGPT分析涉及小马科斯的政治动态社交媒体帖文，要求模型提供回复主题建议；接着基于这些主题批量生产短评（通常不超过10个单词）；最后指示ChatGPT生成用于"隐蔽影响力行动"的公关话术和统计分析。