方兴东：AI治理，中国该如何积极有为

“人工智能”(AI)在时下的中国乃至整个世界，已经成为最热的词汇之一。人工智能越来越多地应用，标志着互联网革命真正进入深水区，将给整个人类社会发展带来深刻的革命。最近，AI治理成为全球最大的热点问题。

对AI应用的担忧是什么

从2016年世界围棋冠军李世石大战阿尔法狗，引爆这一轮AI热潮开始，人们对AI的应用充满了各种美好的遐想和热切的期望，为什么突然之间全球各方对AI治理面临的挑战都表达了强烈的危机意识？

人工智能研究迄今已经70多年，这一次升温也是历史上的第三次浪潮。这一次浪潮是因为与PC互联网和移动互联网因缘际会地融合一起，产生了“核聚变”。今天，全球网民已经超过40多亿，并陆续发展出一批千亿、甚至万亿级美元市值的科技巨头，它们的平台直接掌控着十亿级用户的数据，有着近水楼台的AI应用场景和商业潜力，纷纷重金投入AI研发。所以，这一轮AI热潮将很快进入暴风骤雨般的大规模应用部署阶段，直接影响每个人的切身利益，甚至引发世界各国的AI竞赛。

的确，AI技术的发展给我们的生活带来了非常大的便利，也给政府的管理带来了新的变革和突破。比如，不久前福建弑母案的凶手就是因为机场的脸部图像识别系统升级后捕捉到他，最终落入法网。包括过去中国一直缺失的个人信用社会系统，一旦建立起来也会大大方便社会的管理。

但是，在人工智能应用大规模展开的过程中，我们也不得不面临一个巨大的挑战：我们对AI应用可能带来对隐私保护、社会伦理、就业等领域的重大影响，迄今仍缺乏全面了解，尤其是缺失全球性的AI治理机制。

欧盟委员会于今年4月初发布了正式版的人工智能道德准则：《可信赖AI的伦理准则》。这份文件针对AI应用可能产生数据滥用、隐私侵犯、歧视对待等，提出了四项伦理准则：尊重人的自主性、预防伤害、公平性和可解释性。

中国欠缺在哪些方面

AI治理指的是一整套围绕AI发展与应用的伦理、规范、政策、制度和法律等体系。AI领域的投资、创业和应用，也是中国当下最大的热点之一，更是中国高科技有可能取得领先优势的领域之一。但是，我们对于AI治理的重视却远没有提高到相应的程度。虽然社会上也有不少呼吁和行动，但是，我们依然严重低估了这场热潮可能带来的影响和冲击，严重低估了后续问题的复杂性和严峻性。

而且，因为缺乏明确的治理机制，开始引起国际社会一些质疑。虽然其中有不少误解和曲解，但是，有一套真正符合国际规范的制度体系，是有效缓解人们的担忧、有力回应这些误解的基本前提。

2019年是中国互联网25周年，过去我们成功的最大经验之一就是“先发展后治理”。先允许“摸着石头过河”，等到问题出现，或者积累到一定程度，再进行专项治理，并建立规范。但是，在这一次人工智能发展上，却不能再简单重复上述“经验”。

互联网相关的治理体系主要包括法治、共治和自治等三大层面。这三道防线层层把守，是确保一个新兴行业健康、顺利发展的关键。这一次人工智能应用对整个经济和社会的发展影响巨大，尤其是基于个人信息和数据的各种商业与政府应用。但是，迄今我国个人信息保护完善的法律体系依然缺失，还在摸索和建立之中，相关法律法规对于AI治理的支撑体系远未完善。同时，拼命抢先发展的企业们，迄今没有形成有着足够包容性与代表性的行业协会和组织，没有建立起富有成效的行业基本准则、规范和自律机制。尤其是没有出现领行业之先的领导企业和富有号召力的倡导者，以真正富有前瞻性的理念和建设性的最佳实践，带领行业走向良好的共治和自治。相反，有些企业恰恰是目前个人数据滥用的重灾区。

技术领先，治理亦应积极

2018年10月31日，习近平总书记在中共中央政治局第九次集体学习时强调，要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。那么，在AI治理方面，中国应该如何积极有为？

首先，我们在注重发展的同时，需要进一步加大对AI治理的重视程度，将AI治理作为国家制度建设的重中之重。人工智能领域是中国促进经济、社会发展，实现高科技全球崛起的重要突破口之一，我们在AI治理方面要从一开始就具备全球视野，在制度建设上积极与国际接轨。积极参与国际组织的治理倡议和规范建设。

其次，政府部门需要调整“先发展后治理”的方式，这一次需要一边抓发展，一边抓治理。确定合适的主管部门，积极有为，切实督促行业在伦理规范、算法透明等方面落到实处，确立行之有效的红线和底线。因为很多人工智能应用直接触及巨大的公共利益，必须走出“黑箱操作”模式，提升项目的公共性。

第三，在体系建设有现实难度的情况下，先抓好主要矛盾，解决核心问题。个人信息保护制度滞后，我们应该把坏事变成好事，利用后发优势，站在新的人工智能发展趋势的基础上，构建更富有前瞻性的个人信息保护专项立法。同时建立快速响应的社会监督和惩戒机制，加快促进行业组织的建立，加强专家学者和社会人士等第三方力量的作用，尤其需要更多引入国际专家学者，形成有效的多利益相关方治理机制。

最后，我们过去积累了不少互联网治理疑难问题，比如平台的个人数据过度收集和滥用问题、算法透明性和第三方监督制度的落实、搜索引擎的公正性和中立性问题、反垄断法在互联网领域的威慑力等，在人工智能应用全面实施之际，可以及时补课，避免问题与后果的进一步放大和恶化。

无疑，人工智能发展是中国面临的重大历史性机遇，但是我们也面临着与过去互联网发展不一样的局势和挑战。我们不但要在技术和应用方面敢于领先，更要在AI治理的制度建设方面成为全球的重要力量，为全球人工智能发展提供更多的公共产品，提升中国贡献。(作者是浙江传媒学院互联网与社会研究院院长，全球互联网口述历史【OHI】发起人)