AI监管潮来袭，各国开始画红线_风闻

图 路透/Dado Ruvic

“无所不能”的聊天机器人ChatGPT还是迎来了人类的挑战。近期生成式人工智能（AI）因数据安全、伦理问题等遭遇多国监管“围剿”，令市场投资狂欢暂歇。中国网信办亦就生成式AI服务管理办法征求意见，在支持AI算法等技术自主创新的同时为监管规则画“红线”。

分析人士认为，作为硬科技领域的重要一环，中国将继续大力支持AI技术的发展，但会在价值观、隐私安全等领域划出明确的红线，尽可能避免行业“走弯路”。此外对于AI领域的监管全球亦没有成熟的先例，料将维持监管和发展并行。

艾媒咨询CEO兼首席分析师张毅表示，网信办的最新意见稿主要是从国家安全、企业和行业发展，以及对用户隐私安全保护的角度，进行了一定程度上的规范。在防止AI继续出现问题造成危害，和规范行业发展让新技术造福社会两方面，做出了比较有意义的探索。

“中国对AIGC（人工智能生成内容）的监管，应该更多的是要规避掉在意识形态和价值观领域的风险，以及由此引发的社会治理次生风险，这是国内的AI技术发展的前提。” 透镜咨询创始人况玉清则认为。

他并指出，在上述领域划出的明确监管红线并不是新的，只是将已有红线扩大到AIGC领域的适用范围。尤其是“当AI成为大国提升国际竞争力工具的时候”，它更承载着文化和价值观输出的使命，这一点“可能也是东西方都会共同关注和考虑的”。

中国国家互联网信息办公室周二发布征求意见稿称，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

意见稿并称，利用生成式人工智能产品向公众提供服务前，应当向国家网信部门申报安全评估；利用生成式人工智能生成的内容应当体现社会主义核心价值观；要尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。

“监管文件的出台虽然可能会规范行业发展，但未必十分有利于促进行业的高效发展。”文康律所网络安全与数据合规专委会主任马清泉律师认为，在国内AI行业发展还没有取得特别显著成果的背景下，该文件可能会增加企业管理和应对监管的成本，且可能在行业前期的产品开发上带来有一些限制。

今年2月微软旗下OpenAI发布的聊天机器人ChatGPT掀起投资热潮，中国互联网公司正争相推出竞品。百度已于3月中旬率先发布类ChatGPT产品“文心一言”；阿里巴巴周二亦发布最新大规模语言模型“通义千问”。

中国中证人工智能指数今年迄今已经累涨逾四成，但本周以来则累跌3.5%。

**多国“围剿”**

面对人工智能的急速进步，3月末意大利政府数据保护局率先宣布暂时禁用ChatGPT，并对该人工智能应用涉嫌违反隐私规则展开调查。此外据华尔街日报报导，拜登政府已经开始研究是否需要对ChatGPT等人工智能工具进行审查。

张毅指出，目前全球主流国家对于AIGC是持相对慎重的态度去对待，这也不无道理，反映出AI技术在发展的可能方向上，和现有的法律、监管与用户权益保护等存在一定冲突，或出现未来无序发展的可能。

“对于AI的监管现在全球没有成熟的先例，大家都在探索，短期内估计难有特别大的突破或全球共识。”况玉清认为，各国技术、产业地位不同，对待AI的态度也会有很大不同。

英国政府上月底发布的人工智能白皮书称“避免可能扼杀人工智能创新的严厉立法”。印度电子信息技术部上周亦在一份声明中称，人工智能存在道德问题和风险，但“政府没有考虑制定法律或规范该国人工智能的发展。”

**AIGC是“双刃剑”**

ChatGPT的蹿红在近期已经引发对就业危机、数据泄露等问题的担忧。近期中国官媒亦发声降温，称热捧AI需防泡沫，监管部门要加强对“蹭热点”“炒概念”及股价操纵行为的监控处置和打击力度。

中国支付清算协会周一发布倡议称，支付行业从业人员谨慎使用ChatGPT等工具，不上传国家及金融行业涉密文件及数据等。

“大模型一定是个双刃剑。”张毅表示，AIGC可能存在的风险主要还是来自于智能化程度过高，对于数据收集、内容产出，以及对信息安全等都会有一定程度上的风险；这些风险既可能会出现在违法犯罪，也可能会出现在对青少年或用户的不良信息引导等方面。

网络安全公司Darktrace最新研究报告显示，在生成式人工智能和ChatGPT等工具的帮助下，网络攻击者正在利用新技术来冒充可信的组织和联系人，包括发送破坏性的商业电子邮件、网络钓鱼等。研究人员观察到，今年1-2月其客户收到的“新型社会工程攻击”增加了135%，与ChatGPT的广泛流行相对应。

社会工程攻击通常指的是通过与他人的合法交流，来使其心理受到影响，做出某些动作或者是透露一些机密信息。

马清泉解释称，AI的判断是基于算法，而这些算法的输出结果又是建立在之前的数据之上。因此，如果数据存在偏差，相应AI的输出结果就存在着误差风险，一旦涉及到教育、投资、医疗等领域，就会产生较大的风险。

“如果使用境外平台，在人机交互问答的过程中，中国境内用户分享的个人信息、商业秘密等数据也会存在跨境流出的风险。”他一并指出。

但张毅并认为，对于AI行业的管理不能放任不管，也不应该“一棍子打死”，“把优势发挥的更优，把短板及时给设防护栏，恐怕是对AIGC产业未来发展的一个最有效，或者是最明智的一个布局思路。”

中国工信部部长3月末表示，要聚焦人工智能、生物制造等重点领域，强化企业创新、培育新型产业链供应链。中国科技部同自然科学基金委近期启动“人工智能驱动的科学研究”(AI for Science)专项部署工作，布局前沿科技研发体系。

“所有行业、所有应用、所有软件，所有服务都值得基于新型人工智能技术重做一遍。”面对新一轮AI智能浪潮，阿里巴巴首席执行官张勇在周二的阿里云峰会上表示，面对智能化的时代所有公司都在同一起跑线上，“技术的创新、技术的进步是永无止境，也永不止步的。”

路透