傅莹：人工智能的治理与国际合作
8月29日，2019世界人工智能大会在上海举行。外交部原副部长、清华大学战略与安全研究中心主任傅莹在世界人工智能大会治理论坛上发表“人工智能的治理与国际合作”为题的讲话。以下为演讲全文：
（文/傅莹）
傅莹
一、关于人工智能治理面临的挑战。
进入21世纪的第二个十年，人工智能技术的应用进入快速发展的阶段，随着AlphaGo为代表的深度学习算法的成熟，人工智能技术出现大面积应用的趋势。我最近访问了一些企业，昨天在上海还看了三家企业，可以明显地感受到我国人工智能产业所呈现出来的蓬勃发展态势。可以期待，未来人类的生产和生活方式将发生更大的变化，生活将变得更加舒适和便利。
今年7月，我们在清华大学的世界和平论坛期间举办了三场论坛，邀请70多位国内外专家学者和企业家围绕人工智能的风险和治理进行研讨。大家比较一致的看法是，人工智能技术是一把“双刃剑”，一方面带来科技革命和产业升级的重要机会，另一方面，也带来新的安全风险，在治理上人类将面临与以往完全不同的难题。
例如，在立法上需要有新的思维。传统的法律是要以社会基本共识为基础的，因此往往要滞后于社会实践。但是在人工智能技术上，我们恐怕没有这样奢侈的时间条件，因为这项技术的应用影响之快、之大，远不同于传统技术，治理的需求与技术的应用几乎同步出现。
再比如，传统立法者关注的是人与人之间的关系。而人工智能作为“非人行为体”，未来会越来越广泛地参与人类活动，那么，在人机共存，甚至人机冲突的情况下，如何面对和处置人类与机器的矛盾呢？“机器代替人”做决策的情况已经不是想象中的事，波音737-MAX的空难就是一个重要的警示。
人工智能的到来对就业模式的快速冲击也是前所未有的。清华大学战略与安全研究中心人工智能项目组的于洋老师牵头做的《中国青年视角下的人工智能技术（AI）风险和治理》调查项目中，超过50%青年人表达的头等关切是失业风险。如同以往的技术革命，人工智能将取代大量程式化的工作岗位，同时也会创造出新型岗位和就业机会。挑战在于，如何才能让人才结构的调整跑赢技术的更新迭代和产业结构的跃升？
**不能忽视的还有在伦理规范方面的新问题。**例如国际上讨论比较多的人群歧视和对个人隐私的尊重和保护等问题。有外国人对我说，中国人不需要隐私保护，我认为这是偏见。我国立法高度重视对个人权利的维护。在本月全国人大常委会审议的民法典人格权编草案稿中，针对收集、处理自然人个人信息有明确规定，要求必须“征得该自然人或者其监护人同意”等，而且把个人生物识别信息也纳入保护的范围。
二、我国在创新制度和手段、推进人工智能治理方面加快部署。
习近平总书记明确要求，“要加强人工智能发展的潜在风险研判和防范”，“要确保人工智能安全、可靠、可控”，“要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。”
总书记的要求是我们推进人工智能治理的重要指导方针。党中央和国务院对人工智能的部署采取的是发展和治理同步推进的方针。今年2月科技部牵头组建了中国国家新一代人工智能治理专业委员会，6月该委员会发布了新一代人工智能治理8条原则，强调发展负责任的人工智能。工信部在2017年就颁布了《促进新一代人工智能健康发展三年行动计划（2018-2020）》，其中也对治理提出要求。现在的重要任务是如何让这些规则和要求落地，形成有利于我国人工智能健康成长的良性环境。上海在人工智能的研发和应用方面走在全国的前列，积极探索治理路径，重视推进国际合作。在科技部和工信部的支持下，上海推动建立了国家人工智能创新应用先导区和国家新一代人工智能创新发展试验区。可以期待，上海在人工智能治理的规则与制度的创新、开展国际合作方面也将走在全国的前列。
考虑到这个新兴领域自身独特的性质，我们一方面要加快对立规和立法的研究，另一方面也要依靠科学界和企业界采取负责任的态度和行为。如果科学家在每一项新技术的研发中都能思考其负面风险，如果制造商在每一个新技术的应用中同步构建风险管理的解决办法，那么，对这方面的挑战就不难找到应对办法，其立法和规范也就不难走出新的路径。
目前很多人工智能企业希望有法律责任和范围的清晰界定，认为这样更有利于企业的发展，他们在采取一些自律措施的同时，也期待国内整体规则环境和基础条件更快得到完善。
三、人工智能治理的全球视野和国际合作。
人工智能技术的研发和应用是在全球平台上实现的，因此，其治理也不是某个国家或区域的问题，而是涉及到全人类的福祉。因此，我们需要有全球视野，拓展全球合作。在这方面，国际社会有过一些经验。例如核军控和气候变化等难题，都是先在学界、企业界和社会组织中被广泛讨论和推动，最终达成国际共识，形成有效的治理原则和制度。
目前，国际上围绕人工智能带来的挑战正在进行广泛和热烈的讨论，不少国家和机构出台了相应的法律法规和原则主张。但各国间仍缺乏大家共同接受的人工智能治理原则和在价值观和理念上的共识。
中国对人工智能的国际合作和治理采取的是积极参与的开放态度，也主动搭建了不少平台，上海世界人工智能大会就吸引了国际和国内的不少关注。天津的世界智能大会、重庆的国际智能产业博览会等，也都是向世界开放的交流平台。
中美关系的前景也关系到人工智能治理的国际合作。有人会说，美国挑起贸易战，破坏全球贸易体系，是对国际秩序更大的挑战。我觉得确实如此，这是一个主观的破坏性行为，中美关系的动荡为人工智能国际治理的探索也带来一定阻碍。
而现实中，中美学者在人工智能领域的关系是相当紧密的。根据科睿唯安提供的人工智能领域科技文献数据，**从2013年到2017年，全球参与评估的167个国家/地区在“计算机、人工智能”发文排名中，中国大陆位居第一，发文量达到59573 篇，占25.02% ；**其次是美国，发文量是32527篇，占13.66％。中美两国国际合作论文数量增长最快，过去五年中国大陆开展国际合作最多的对象是美国，美方开展国际合作最多的国家是中国大陆，双方合作论文有四千多篇。
在人工智能技术的快速发展中，中美各有优势。数据显示，在涉及人工智能基础层的算力、数据和算法三大关键要素中，美国在算力和算法上有优势，巨头公司基本掌握着开元算法平台和场景丰富的算法能力，而中国正在积累越来越多的应用和数据资源。从两国的实践看，如果中美无法有效合作形成共同标准的数据和算法，双方的产业和未来发展都将受到很大影响。
习近平总书记在2018年致上海世界人工智能大会的贺信中指出，“新一代人工智能正在全球范围内蓬勃兴起”，“要把握好这一发展机遇，处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题，需要各国深化合作、共同探讨。中国愿在人工智能领域与各国共推发展、共护安全、共享成果。”
因此，我们需要从相互依存、命运与共的“共同体”意识出发，主动参与和推动国际交流与合作，同时也要认真履行自己的责任。历史上每一次科技革命都推动了新的国际议程的设置，相信人工智能技术也能成为各国合作的新平台，为全球化增添新的动力。中国人应该也能够为此做出贡献。
四、对人工智能的国际治理的三点建议。
一是保持开放性。人工智能的技术发展与产业应用是全球高度协作的成果，其未来的发展也依赖世界各国优势互补，合作共享。因此，在人工智能的治理上也需要保持开放性，集合各国智慧与经验，实现有效的全球治理。
二是合作性。人工智能被认为是一项综合性的“原力技术”，其治理也需要多学科、多领域和多部门乃至多国的共同参与。各国在探讨和构建治理机制的过程中，应积极开展国际合作，取长补短，才有可能实现有效的治理。
三是客观性。人工智能作为革命性的新技术，难免引发很多误解和怀疑，没有人能准确预测技术的未来结果。国际治理应该秉承中立客观的立场，保护科学家和企业家的创新积极性，尊重人的权利与尊严。
最后，我祝愿上海世界人工智能大会能在推进人工智能国际合作、包容制度创新方面取得好的成果。也祝愿与会代表们，能够利用上海市搭建的这一平台，深入沟通、凝聚共识，为未来描绘美好的蓝图，为我们的后代留下更多的可能性。