OpenAI使用其工具关闭在俄罗斯和中国的影响网络-彭博社

OpenAI表示，在其识别的所有操作中，人工智能生成的材料与更传统的格式一起使用。

摄影师：彭博社

OpenAI表示，在过去三个月中切断了五个秘密影响行动，包括在俄罗斯、中国、伊朗和以色列的网络，这些网络访问了ChatGPT制造商的人工智能产品，试图操纵公众舆论或塑造政治结果，同时掩盖其真实身份。

这份新报告来自ChatGPT制造商，此时全球选举中人们对人工智能角色的担忧日益加剧。在其调查中，OpenAI列出了影响网络使用其工具更有效地欺骗人们的方式，包括使用人工智能生成比人类单独更大量和更少语言错误的文本和图像。但该公司表示，最终在其评估中，这些活动未能通过使用OpenAI的服务显著扩大其影响力。

“在过去一年半里，人们一直在猜测如果影响行动使用生成式人工智能会发生什么，”OpenAI情报和调查团队的首席调查员本·尼莫在周三的新闻发布会上说。“通过这份报告，我们真的想开始填补一些空白。”

公司表示，它将其目标定义为秘密的“影响行动”，即“欺骗性地试图操纵公众舆论或影响政治结果，而不揭示背后行动者的真实身份或意图。” 尼莫说，这些团体与虚假信息网络不同，因为它们通常可以推广事实正确的信息，但以一种欺骗性的方式。

尽管宣传网络长期以来一直在使用社交媒体平台，但它们使用生成式人工智能工具的做法是相对较新的。OpenAI表示，在其识别的所有行动中，人工智能生成的材料与更传统的格式一起使用，例如在主要社交媒体网站上手动编写的文本或表情包。除了使用人工智能生成图像、文本和社交媒体简介外，一些影响网络还使用OpenAI的产品来提高他们的生产力，例如总结文章或为机器人调试代码。

OpenAI识别的五个网络包括诸如亲俄的“Doppelganger”、亲华网络“Spamouflage”以及伊朗运营的国际虚拟媒体联盟（IUVM）。OpenAI还标记了之前未知的网络，这家初创公司称其首次识别来自俄罗斯和以色列的网络。

OpenAI称之为“Bad Grammar”的新俄罗斯组织使用了这家初创公司的人工智能模型以及消息应用Telegram来建立内容垃圾邮件管道。首先，这个秘密组织使用OpenAI的模型来调试代码，从而可以自动在Telegram上发布帖子，然后使用数十个帐户生成俄语和英语评论以回复这些Telegram帖子。OpenAI引用的一个帐户发表评论，主张美国不应支持乌克兰。“我受够了这些脑残傻瓜玩游戏，而美国人却在受苦，”评论写道。“华盛顿需要调整其优先事项，否则他们将感受到德克萨斯的全部力量！”

OpenAI通过注意到评论中包含常见的AI错误消息，如“作为AI语言模型，我在这里提供帮助”，来识别一些AI生成的内容。该公司还表示正在使用自己的AI工具来识别和防御此类影响操作。

在大多数情况下，这些网络的消息似乎并没有引起广泛关注，或者人类用户将发布的内容识别为AI生成的。尽管其影响有限，“现在不是自满的时候，”Nimmo说道。“历史表明，花了多年时间却一直没有取得任何进展的影响操作，如果没有人寻找它们，突然间可能会爆发出来。”

Nimmo还承认，可能有一些使用AI工具的团体是公司不知道的。“我不知道还有多少操作存在，”Nimmo说。“但我知道有很多人在寻找它们，包括我们的团队。”

其他公司，如Meta Platforms Inc.，过去经常披露类似的信息影响操作。OpenAI表示正在与行业同行分享威胁指标，其报告的目的之一是帮助其他人进行这种检测工作。该公司表示计划在未来分享更多报告。

多年来，印度最大的企业集团一直在关注腾讯控股有限公司和阿里巴巴集团控股有限公司是如何让14亿中国人沉迷于他们的智能手机应用，从聊天和购物到订购外卖和打车。

随着日益增长的数字消费者群体，这些印度公司决定开发一体化应用程序，涵盖其庞大的消费者业务。 塔塔集团销售主食、服装、汽车、机票等各种商品，于2022年初推出了其超级应用塔塔Neu。然后，亚洲首富穆克什·安巴尼整合了他庞大的消费者和娱乐业务，统一在他的 信实工业有限公司旗下的MyJio。