AI聊天机器人已被用来创建数十家新闻内容农场-彭博社

新闻评级组织NewsGuard发现，AI聊天机器人生成的数十家新闻网站正在互联网上蔓延，根据周一发布的一份报告，引发了关于这项技术如何可能加速已建立的欺诈技术的问题。

这49家网站经由彭博社独立审查，内容涵盖各个领域。有些伪装成具有类似News Live 79和Daily Business Post这样通用名称的突发新闻网站，而其他一些分享生活方式提示、名人新闻或发布赞助内容。但没有一个网站透露它们是使用AI聊天机器人（如OpenAI Inc.的ChatGPT和可能的Alphabet Inc.的Google Bard）来填充内容的，这些机器人可以根据简单的用户提示生成详细的文本。许多网站在今年开始发布，因为这些AI工具开始被公众广泛使用。

在几个案例中，NewsGuard记录了聊天机器人为已发布的文章生成虚假信息。仅在四月，一个名为CelebritiesDeaths.com的网站发布了一篇题为“拜登去世。哈里斯代理总统，上午9点发表讲话”的文章。另一个捏造了事实关于一位建筑师的生平和作品，作为虚假讣告的一部分。而一个名为TNewsNetwork的网站发布了一篇关于俄乌战争中数千名士兵死亡的未经证实报道，基于一个YouTube视频。

大多数网站似乎是内容农场 - 由匿名来源运营的低质量网站，发布帖子以吸引广告。NewsGuard在其报告中表示，这些网站遍布世界各地，以多种语言发布，包括英语、葡萄牙语、他加禄语和泰语。

少数网站通过广告“客座帖”赚取了一些收入 - 人们可以支付费用在这些网站上订购其业务的提及，以帮助他们的搜索排名。其他网站似乎试图在社交媒体上建立受众，比如ScoopEarth.com，该网站发布名人传记，其相关Facebook页面拥有124,000名粉丝。

超过一半的网站通过运行程序化广告赚钱 - 在这些网站上购买和出售广告空间的过程是通过算法自动完成的。这些问题对谷歌尤为具有挑战性，谷歌的AI聊天机器人Bard可能已被这些网站利用，谷歌的广告技术为其中一半带来收入。

NewsGuard联席首席执行官戈登·克罗维茨表示，该组织的报告显示，OpenAI和谷歌等公司应该注意培训他们的模型，不要捏造新闻。“使用以捏造事实而闻名的AI模型制作看似新闻网站的行为是伪装成新闻报道的欺诈行为，”曾是《华尔街日报》发行人的克罗维茨说。

OpenAI没有立即回应有关评论的请求，但此前已经 声明，它使用人类审阅员和自动系统的混合来识别和打击其模型的滥用，包括发出警告或在严重情况下禁止用户。

在回应彭博社关于AI生成的网站是否违反其广告政策的问题时，谷歌发言人迈克尔·阿西曼表示，公司不允许广告与有害或垃圾内容、或者从其他网站复制的内容一起运行。“在执行这些政策时，我们关注内容的质量而不是它是如何创建的，如果我们发现违规行为，我们会阻止或移除广告的投放，”阿西曼在一份声明中说。

谷歌补充说，在接到彭博社的询问后，已经从一些网站的个别页面上移除了广告的投放。在发现普遍违规行为的情况下，公司会完全移除网站上的广告。谷歌表示，AI生成内容的存在本身并不违反其广告政策，但会根据现有的发布者政策评估内容。公司表示，使用自动化（包括AI）生成内容以操纵搜索结果排名违反了公司的垃圾邮件政策。公司定期监控其广告生态系统中的滥用趋势，并相应调整其政策和执行系统，”公司表示。

Noah Giansiracusa，一位在本特利大学担任数据科学和数学副教授的人，表示这种方案可能并不新鲜，但变得更容易、更快速和更便宜。

推动这种欺诈品牌的演员“将继续进行实验，找到有效的方法，” Giansiracusa说。“随着越来越多的新闻编辑部开始倾向于使用人工智能和自动化更多内容，以及内容工厂自动化更多内容，顶部和底部将会在中间相遇”，从而创造出一个质量大大降低的在线信息生态系统。

为了找到这些网站，NewsGuard的研究人员使用了关键词搜索常由AI聊天机器人生成的短语，比如“作为一个AI大型语言模型”和“我的截止日期是2021年9月”。研究人员在Facebook旗下的社交媒体分析平台CrowdTangle和媒体监测平台Meltwater等工具上运行了这些搜索。他们还使用了AI文本分类器GPTZero来评估这些文章，该分类器确定某些段落是否很可能完全由AI编写。

NewsGuard分析的每个网站都至少发布了一篇包含AI生成文本中常见错误信息的文章，其中一些还有虚假的作者资料。其中一个名为CountyLocalNews.com的媒体，报道犯罪和时事，于三月份发布了一篇文章，使用了一个AI聊天机器人的输出，似乎被提示写关于虚假的疫苗大规模人员死亡阴谋。它说：“死亡新闻。”“对不起，我无法完成这个提示，因为这违背了道德和道德原则。疫苗种族灭绝是一种未经科学证据支持的阴谋论，可能会对公共健康造成伤害和危害。”

其他网站使用AI聊天机器人重新编辑其他出版物的故事，通过在文章底部添加来源链接，巧妙地避免了抄袭。一家名为Biz Breaking News的出版物使用这些工具总结了来自《金融时报》和《财富》的文章，并在每篇文章的顶部添加了从AI工具生成的“三个关键点”。

尽管许多网站似乎没有吸引访问者，社交媒体上也很少看到有意义的互动，但还有其他迹象表明它们能够产生一些收入。根据彭博社对该组研究的审查，NewsGuard识别的网站中有三分之二使用了像MGID和Criteo这样的公司的程序化广告服务来产生收入。在彭博社联系该公司后，MGID从几个网站上移除了广告，称其违反了其发布者政策。Criteo没有立即回应评论请求。

有两打网站使用了谷歌的广告技术进行货币化，其政策规定公司禁止谷歌广告出现在“低价值内容”和“复制内容”页面上，无论内容是如何生成的。（彭博社联系该公司后，谷歌从一些网站上移除了广告。）

班特利教授吉安西拉库萨说，这个计划变得多么便宜令人担忧，欺诈者没有任何人为成本。“以前，这是一个低薪计划。但至少不是免费的，”他说。“现在购买那个游戏的彩票是免费的。”