推进从生成到传播全链条治理

想要近期外出旅游的小李，习惯性地打开某大模型应用询问。与往常一样，答案很快生成，但这次文本结尾处多了一句话：“本回答由AI（人工智能）生成，内容仅供参考，请仔细甄别。”

近年来，生成式人工智能、深度合成等新技术快速发展，在促进经济发展、丰富网上内容、便利公众生活的同时，也造成虚假信息传播、破坏网络生态等问题。近日，《人工智能生成合成内容标识办法》（以下简称《标识办法》）发布，自2025年9月1日起施行。

国家网信办相关负责人表示，《标识办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，以合理成本提高安全性，推动人工智能健康有序发展。

此前的《互联网信息服务深度合成管理规定》等就对深度合成服务提供者规定了标识义务。而本次《标识办法》的一大亮点，则是将传播平台纳入监管范畴，实现从生成到传播的全链条治理。

“这是一部剧情紧凑，每个角色性格鲜明的电视剧。它通过一个个独立的故事，让我们深入思考社会现实问题……”一天，小田在某知识分享平台读到一则影评。影评在开头被打上了“疑似使用AI创作”的标记，推荐排序极为靠后。

据该平台负责人介绍，此前，平台的社区治理规则已经要求，用户发布使用AI技术进行辅助创作的内容，应主动添加“包含AI辅助创作”创作声明。而如果不主动添加，被平台检测到使用AI创作，则会被打上标识、排序置后或者“折叠”乃至删除封号。

平台这样的治理行为，今后将有更明确的法律支撑。《标识办法》规定提供网络信息内容传播服务的服务提供者应当采取下列措施，规范生成合成内容传播活动：“核验文件元数据中是否含有隐式标识”“检测到显式标识或者其他生成合成痕迹的，识别为疑似生成合成内容，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容疑似生成合成内容”……

公安部第三研究所副所长金波表示，除此之外，针对其他关键参与方，如互联网应用程序分发平台主体的责任范畴等，也进行明确规定，基本实现对生成合成内容上下游主体的全覆盖。

区分规定生成合成内容中应添加的“显式标识”和“隐式标识”，是《标识办法》的另一大特色。其中，《标识办法》规定，应当在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

对此，国家计算机网络应急技术处理协调中心正高级工程师张震介绍：“作为配套的《网络安全技术人工智能生成合成内容标识方法》明确了元数据隐式标识的字段要素，在尽量不影响元数据处理和传输的前提下，嵌入必要字段，记录生成合成内容的关键信息和关键环节，确保内容在流转过程中始终可追溯。”

而相关条款的规定，对促进人工智能便利使用、创新发展也有积极意义。

“请帮我生成一张邮轮在大海的惊涛骇浪中航行的图片。”李某制作视频时，需要在视频中放置一张图片，和往常一样在某大模型应用上生成了一张图片。在图片的右下角，有一个标记“AI生成”。

“有些大模型应用，每次生成的图片，都有‘AI生成’之类的标记，使用时还需要再编辑处理，多少有些麻烦。”李某说，希望类似的生成内容可以直接去除AI标识，自己在最终发布时会声明AI创作。

“《标识办法》第九条提出，在用户主动要求提供未添加显式标识内容时，网站平台在不违反相关法律法规要求前提下，可通过在用户协议中明确责任义务并依法留存相关日志信息后，面向用户予以提供。”国家网信办相关负责人介绍，用户在后续使用过程中，需主动声明生成合成情况并添加显式标识后，方可面向公众发布和传播。