刘云：打掉AI养号“黑”产业链，需要进一步系统治理

近期，有网友发现，短视频平台上出现了大量形象光鲜的AI数字人主播，他们在视频里聊天、带货，甚至还能在评论区高频互动，但视频未标注任何AI生成提示，一些警惕性较低的人很容易被诱导下单，成为这种新型陷阱的受害者。而这背后是一条从“起号”到“养号”、以AI技术贯穿始终的黑色产业链。​

“1人管控50个小红书账号”“3至15天收获上万粉丝”“10秒生成一篇文章”……AI技术本应成为提升自媒体运营效能的赋能工具。随着多模态大模型的功能升级和各种智能体工具的拓展，创作门槛与成本显著降低，对于依托自媒体进行生活分享、产品推广的主体而言，无疑是高效便捷的技术支撑。例如浙江义乌商贩靠AI工具变成外语口播达人、拓展跨境社交电商；律师上传专业知识库、搭建法律智能体，代替自己与用户7×24小时交互。这些都是AI在自媒体领域的正向应用，值得倡导与推广。

然而强大的技术一旦被滥用，其危害也是巨大的。部分账号将目标群体锁定中老年女性，在视频中展示“完美熟龄女性形象”，搭配“40+、50+长这样，怎么样”等话术，配合“水军”互动、渲染“年龄焦虑”，借机推送“三无”保健品，或编造虚假健康知识，实施欺诈牟利。实际上，这些视频中保养良好的皮肤、身材和所谓“保健品”没有关系，都是算法合成的“功劳”。

整个AI起号、养号的流程链路上，充满了法律风险。首先，在注册环节，一些公司为了效率，普遍是批量起号、养号，伪造身份信息、虚构互动数据，明确违反《网络信息内容生态治理规定》《互联网用户账号信息管理规定》，触碰了社交账号实名制的红线，其注册环节的身份欺诈与流转环节的主体错位，不仅违反监管规定，更埋下数据安全与权益侵害的隐患。​

其次，在“创作”环节，多数起号公司是利用AI洗稿生成“伪原创内容”，例如以技术手段实施同义词替换、句式重组及片段拼接，在核心表达与独创性要素上与原作品是雷同的。这种看似“二次创作”的行为，侵犯了原作者的复制权与改编权。此外，发布未经审核、可能存在事实错误、误导性表述的内容，可能构成传播虚假信息的违法行为。尤其在医疗健康、金融财经、社会热点等敏感领域，很容易引发公众误解或社会秩序混乱。

再次，在发布环节，违规者为规避监管审查，往往采用多种规避手段。例如改变视频文件代码结构、裁除AI生图软件水印、削弱特征性技术痕迹、隐瞒AI生成属性以逃避平台识别。正是这类技术漏洞，导致大量虚假内容未经拦截，流向了较脆弱群体。

最后，在转让环节，多数人可能不了解的是，反电信网络诈骗法规定，任何单位和个人不得非法买卖、出租、出借互联网账号。若私下转让的账号在后续经营中违法犯罪，原使用者可能需承担相关责任甚至构成共同犯罪，面临刑事处罚。

对于AI在自媒体行业的应用，我国已通过《生成式人工智能服务管理办法》《人工智能生成合成内容标识办法》等法律法规构建起针对性监管框架。而在实践中，监管部门也会同平台，持续大力打击各类乱象。今年4月启动的“清朗·整治AI技术滥用”专项行动，处置违规账号3700余个，多家平台也同步开展AI批量造假账号整治。

但随着AI技术的进步，违规行为也愈发隐蔽化，因此整治AI造假起号乱象必须久久为功，构建多方协同治理体系。平台应升级AI识别技术，缩小各类规避手段造成的检测盲区；对教程售卖、批量起号商家，应实施流量封禁与商业变现限制，阻断“造假方法论”的传播，并建立违规账号“黑名单”制度。监管部门则可沿起号、养号链条溯源，严厉打击背后机构。此外还要强化老年群体数字素养教育，普及辨别AI生成内容的技巧，如关注表情僵硬度、背景违和感等特征，提升其风险防范能力。

AI作为工具，其本身不具备价值属性，如何使用决定了其结果。只有在法律法规框架内，引导AI技术正向应用，方能使AI真正成为自媒体的好帮手，守护网络空间清朗生态，让全体网民安心共享数字时代红利。（作者是清华大学智库中心、法学院助理研究员）