AI “机里机气”的虚构内容，令人愤慨_风闻

宇婷编辑，综合整理‍‍‍

因为AI无边界的生产力，互联网正在被灌水。

那些完美的语气特别平整，语句特别通顺的，标点使用特别规范的，还没错别字的文本。以及背景虚化近乎完美的图片，正像是没有生命力，却又完美的无法挑剔的病怏怏的，令你无可奈何的对象。ta坐在你的对面，没有生命力地笑。

《AI，正在疯狂污染中文互联网》前两天，这篇文章刷屏。所言甚是。

剑桥大学和爱丁堡大学安全工程教授Ross Anderson毫不避讳的直言：

正如我们用塑料垃圾布满了海洋，用二氧化碳填满了大气层，我们即将用废话填满互联网。

1996年的科幻喜剧电影《丈夫一箩筐》，影片讲述了一个普通人克隆自己，然后又克隆克隆人，每一次克隆都导致克隆人的智力水平呈指数下降，愚蠢程度增加。

机器人缺乏人类演员可能带给角色的情感和细微差别。剑桥大学人工智能教授鲁本·宾斯博士指出的那样：“机器人可能能够模仿情感，但他们无法像人类一样感受到情感。这意味着他们可能无法传达与人类演员相同的情感水平。”

生成式AI非常擅长编造事实，并且非常自信地传递这些幻觉。海外，一个名为“开明思维”的网站，该网站似乎是网络AI生成未来的黑暗景象。除了其他令人担忧的原因外，该网站没有联系信息，其庞大的文章存档追溯到2023年1月。这是一个由AI生成的网站，尽管内容荒唐，但是其在SEO的效果上（被引用）不可小觑。

此前，Stack Overflow禁用ChatGPT生成内容，Stack Overflow给出的官方公告：目的是减缓使用ChatGPT创建的大量答案流入社区。因为从ChatGPT得到错误答案的概率太高了！

‍‍‍‍‍‍‍‍

再看一个例子，递归的诅咒。大型语言模型（LLMs）已经来到了我们身边，并将带来整个在线文本和图像生态系统的巨大变化。当 LLMs 贡献了网络上大部分的语言时，使用模型生成的内容进行训练会导致产生不可逆转的缺陷，其中原始内容分布的尾部消失了。

这种效应称为模型崩溃。随着从互联网上爬取的数据中出现 LLMs 生成的内容，真正的人机交互数据的价值将越来越高。

AIGC可以改变学习的方式，可以反哺更多内容，但更多和更快，可能与更准确、更真实产生强烈摩擦。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍