触目惊心：用AI批量造谣，日入上万！_风闻

NO.596

作者：观察君

校稿：程程 / 编辑：致知

AI居然被用来高效造谣？近日，江西一MCN机构利用AI批量造谣事件登上热搜。这家机构通过AI生成大量虚构事实的文章，操纵800多个账号，自动发布，高峰时期一天生成4000-7000条谣言，日入上万元。AI造谣牟利事件屡见不鲜，我们该怎么预防？

6月14日，央视通过一条6分钟的新闻视频，详细报道了一家MCN机构通过AI造谣获利的经过。

这件事情的起因是，今年1月11日晚上9点25分，一个网名叫“奋发的书包5a0M”的网友发布了一则消息，声称西安在1月10日晚上11点48分发生了爆炸。时间地点写的非常详细，如果不是身处西安当地，还真辨别不出这是个谣言。文章阅读量非常大，惊动了西安警方。警方一调查，发现是江西的一家MCN机构。于是，两地警方一调查，才发现了这家MCN机构的猫腻。

江西警方对这家公司的电脑和手机进行取证，发现这个公司负责人有5家MCN公司，运营了842个自媒体账号，全部都是通过AI工具，输入关键词，生成大量文章，然后又通过一个自动发布的软件一键发布到这些账号上。通过流量赚取平台收益。

这些文章之所以流量大，主要还是“选题”好。他们将造谣的角度对准社会热点和民生新闻，专门在网上搜索热点文章，找网民的“痛点”，通过移花接木等方式，用AI工具大量造假。文章配图大部分是张冠李戴，甚至直接AI生成。比如，所谓的西安爆炸事件的配图是一张原子弹爆炸实验“蘑菇云”的图片，实在是耸人听闻。

根据报道，高峰时期，他们一天可以生成4000-7000条造谣文章。要说，这效率确实非常高。大力出奇迹，他们赚取的流量分成也非常高。最高一条收入700元，每天的收入上万元。

AI工具最大可能的节省了人工成本，整个工作流程基本不需要人工参与，日入上万这个利润率，着实可观。

目前，该公司负责人涉嫌传播谣言、虚构事实、扰乱公共秩序被行政拘留5日，外加一个处罚，公司停业整改。

对于这个处罚，很多网友表示大快人心。

这些造谣新闻，以新闻报道的口吻，讲述歪曲事实，对公众误导极大。一些耸人听闻的假新闻，还能引发社会恐慌。比如西安爆炸。再比如，该机构还杜撰了重庆巫溪发生民房爆炸4人遇难的假新闻。

对于普通民众而言，AI工具是一个比较陌生的领域，对于AI造谣的分辨能力也比较低。所以，这种批量造谣的行为必须严厉打击。

其实在2023年，也有一个类似案件。深圳一名男子洪某某购买了21个百家号，利用ChatGPT编造新闻，将最近发生过的热点新闻，进行简单修改，然后通过发布软件，一键发布到百家号上，赚取流量分成。后来因为杜撰的一篇火车发生交通事故致人死亡的文章爆火，被警方调查。之后，洪某某因涉嫌寻衅滋事罪被逮捕。

事实上，监管部门对网络谣言的治理一直处于高压状态，但新技术、新环境，给监管部门和平台的治理都带来了挑战。作为网民，我们首先自己要有分辨的能力，对于新闻报道，不信谣不传谣，对发布者身份注意甄别，谨慎转评赞。