三部门发布网络音视频新规：提供者应建辟谣机制_风闻
心之龙城飞将-2019-11-30 11:28
网络音视频信息服务提供者应建辟谣机制
《网络音视频信息服务管理规定》发布，利用虚拟现实等新技术发布非真实音视频应有显著标识
ZAO的视频素材和表情素材。律师认为这当中ZAO和用户均存在侵权风险。资料图片/APP截图
昨日，国家互联网信息办公室、文化和旅游部、国家广播电视总局联合发布《网络音视频信息服务管理规定》，提出网络音视频信息服务提供者和使用者利用基于深度学习、虚拟现实等新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。规定自2020年1月1日起施行。
新京报讯 昨日，国家互联网信息办公室、文化和旅游部、国家广播电视总局发布《网络音视频信息服务管理规定》。
《规定》提出，国家鼓励和指导互联网行业组织加强行业自律，建立健全网络音视频信息服务行业标准和行业准则，推动网络音视频信息服务行业信用体系建设。
网络音视频信息服务提供者应建立健全信息安全管理等制度
规定明确，网络音视频信息服务提供者应当依法取得法律、行政法规规定的相关资质；应当建立健全用户注册、信息发布审核、信息安全管理等制度。任何组织和个人不得利用网络音视频信息服务以及相关信息技术从事法律法规禁止的活动，侵害他人合法权益。
规定提出，网络音视频信息服务提供者基于新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务，或者调整增设相关功能的，应当按照国家有关规定开展安全评估；网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识，不得利用基于深度学习、虚拟现实等新技术新应用制作、发布、传播虚假新闻信息。
网络音视频信息服务提供者应建立健全辟谣机制
网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术，发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的，应当依法依约停止传输该信息，采取消除等处置措施；网络音视频信息服务提供者应当建立健全辟谣机制，发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息报网信、文化和旅游、广播电视等部门备案。
规定明确，网络音视频信息服务提供者和网络音视频信息服务使用者违反规定的，由网信、文化和旅游、广播电视等部门依照《中华人民共和国网络安全法》《互联网信息服务管理办法》《互联网新闻信息服务管理规定》《互联网文化管理暂行规定》《互联网视听节目服务管理规定》等相关法律法规规定处理；构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
国家互联网信息办公室有关负责人表示，出台规定，旨在促进网络音视频信息服务健康有序发展，保护公民、法人和其他组织的合法权益，维护国家安全和公共利益。
解读1 为何出台规定？
网络音视频平台利用新技术亟待规范
谈及此次出台规定的背景，国家网信办有关负责人表示，出台《规定》是促进网络音视频信息服务活动健康有序发展的需要。
上述负责人指出，当前，网络音视频信息服务迅速发展，用户规模不断壮大。有关数据显示，国内网络音视频行业正在持续高速发展，当前，我国网络音乐用户规模已达6.08亿，网络视频用户规模已达7.59亿。
但与此同时，也带来了传播违法和不良信息、侵犯人民群众合法权益等风险隐患，特别是随着“深度伪造”等新技术新应用在网络音视频领域的运用，这些风险进一步集聚、放大，可能被利用从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动，造成政治安全风险和国家安全、公共安全风险，对社会稳定造成不良影响。
因此，亟须出台有针对性的管理规定，明确网络音视频信息服务提供者及其技术支持的主体的信息内容安全管理责任，规范网络音视频信息服务提供者关于利用深度学习、虚拟现实等新技术新应用的管理要求，为网络音视频信息服务及其相关技术的提供、使用、管理等提供有效的依据。
解读2 谁来监督检查？
各级网信、广电等部门应建日常监督检查制度
针对现实中网络音视频平台出现违规行为由谁来监管的问题，规定也给出了答案。
国家网信办负责人指出，规定明确了监督检查要求和执法协助要求。各级网信、文化和旅游、广播电视等部门应当建立日常监督检查和定期检查相结合的监督管理制度，网络音视频信息服务提供者应当配合监管部门开展执法工作。
规定还明确了法律责任，网络音视频信息服务提供者和网络音视频信息服务使用者违反本规定的，由网信、文化和旅游、广播电视等部门依照相关法律法规规定处理。
此外，规定还提出，国家鼓励和指导互联网行业组织加强行业自律，建立健全网络音视频信息服务行业标准和行业准则，推动网络音视频信息服务行业信用体系建设，督促网络音视频信息服务提供者依法提供服务、接受社会监督，提高网络音视频信息服务从业人员职业素养，促进行业健康有序发展。
■ 案例
ZAO软件AI换脸被疑泄露隐私
今年9月，一款名为“ZAO”的手机软件突然流行起来，网友只需要上传一张正面照，就可以用“AI换脸”技术把照片制作成网络热门表情包，或是替换经典电影片段中主角的脸，制作短视频。
然而，很快有网友质疑“ZAO”用户协议中的“不可撤销、永久，可转授权”等内容，可能存在隐私安全方面的问题。9月3日，工信部约谈该软件相关负责人，要求其严格按照国家法律法规以及相关主管部门要求，进行自查整改。
还有不少网友担心，在“AI换脸”技术的加持下，如果个人照片被擅自挪作他用会带来风险。
这样的担心并非空穴来风。据媒体报道，2017年12月，一个名为“深度伪造”（deepfakes）的用户在美国论坛Reddit上发布了多段色情视频，不同的是，他让电脑学习好莱坞女明星的图像资料，然后把女明星的面部移植到色情片女主角脸上，近乎完美地实现了动态换脸，这引发了大量讨论和抨击，最后以账号被封告终。
国内也存在利用AI换脸技术制作淫秽视频的产业链。据新京报此前报道，随着AI技术走红以及门槛降低，售卖明星换脸的淫秽视频已经成为一门地下生意。百度贴吧中部分标榜“换脸+女明星姓名”的发帖者，售卖通过AI换脸技术合成的视频，闲鱼上还有卖家提供“定制换脸”服务，买家提供明星或私人照片，卖家即可将淫秽视频中的主角“移花接木”。