小红书： 已处置虚假低质AIGC笔记60万篇

【环球网科技报道 记者 李文瑶】6月14日消息，近日小红书在“打击虚假”治理开放日上公布了2025年上半年社区虚假内容治理成果：通过建设虚假内容全链路治理体系，共处置虚假笔记320万篇，处置虚假人设账号1万个，处置虚假低质AIGC笔记60万篇；通过持续建设“同质化识别”能力，提升处置手段，升级机器对抗，共封禁批量造假黑灰产账号超1000万个。

小红书虚假内容治理负责人蒂法介绍，虚假不实内容、虚假人设和AIGC造假是当前社区打击“虚假”的三个重点。 其中，在AIGC技术爆发式发展的当下，虚假低质AIGC内容也成为治理的重中之重。小红书介绍平台不断加大对AIGC识别模型的研发投入，进一步提高识别精准度，减少虚假低质AIGC内容的曝光。同时，平台对AIGC生成内容做主动标识工作，提升信息透明度。半年共处置治理虚假低质AIGC笔记60万篇。

值得关注的是，黑灰产组织批量制造黑灰产账号，通过虚假、重复、低质内容骗取用户流量；养号涨粉后，又会发布虚假、恶意营销内容，或者销售灰色商品，提供灰色服务，甚至从事违法活动，从而实现不当牟利。从建号到养号再到牟利，黑灰产账号进行全链路批量造假，对社区生态和秩序的危害十分巨大。

对此，中国人民大学新闻学院传播学副教授董晨宇表示，应对当前互联网虚假内容快速增长与传播需要“立体式”的行动，其中不仅包括平台的努力，更包括全社会的共同参与。“虚假和打假之间注定一直是一种动态制衡。在这场持久战中，如果真实想要稳居上风，公众媒介素养的提升是关键。”

据了解，小红书总编辑许磊此前在中国网络文明大会上也介绍，小红书持续优化举报机制，今年上半年，虚假信息的平均审核时长同比降低25%；接下来，还将通过改进产品等措施，吸引更多用户参与到虚假内容的共治中。