推动人工智能治理与国际合作 促进建立人工智能全球治理框架

12月19日，首届“清华大学人工智能合作与治理国际论坛”在清华大学圆满落下帷幕，本次论坛旨在打造人工智能治理与国际合作的全球对话平台，汇集世界各国相关领域的思想领袖与实践者，包括来自各国政府和国际组织的高级官员、学界专家以及科技行业的领军人物共同探讨人工智能技术带来的全球机遇与挑战，分享人工智能国际合作与治理方面的经验与见解，凝聚智慧，创造共识，并提出未来的人工智能治理与合作研究议题。该论坛由清华大学人工智能国际治理研究院（I-AIIG）主办，联合国开发计划署（UNDP）作为论坛的国际支持机构。

在12月18日举行的开幕式上，联合国副秘书长、联合国秘书长特别顾问法布里齐奥·霍奇尔德（Fabrizio Hochschild）在视频致辞中表示，“在所有新兴技术中，人工智能最具潜力，但水能载舟，亦能覆舟。这也是为什么在这一领域的国际合作至关重要。” 清华大学校长邱勇在开幕致辞中表示，“大学要在人工智能合作与治理方面开创新局面、展现新作为：要引领人工智能的发展方向，要不断创新人工智能的理论与技术，要积极推进人工智能全球合作。”联合国开发计划署驻华代表白雅婷说，“在此次疫情的应对中，国际合作和多边主义至关重要，必须从全球层面来探讨人工智能相关的话题。”第十二届全国政协副主席王钦敏、国际电信联盟（ITU）秘书长赵厚麟以及外交部、科技部和工信部代表应邀出席开幕式并致辞。

此次论坛涵盖了多个议题：如何确保人工智能的发展有助于建立一个可持续且包容的未来，同时避免加剧现有挑战和制造新的数字鸿沟？人工智能的发展如何在实现创新的同时兼顾风险管理？疫情期间人工智能如何得到广泛应用？如何加大各国共识，从而促进国际治理框架的建立？这些议题在论坛期间引发热议。 

在主论坛上，图灵奖得主、清华大学交叉信息研究院院长姚期智在主论坛发言中以多方可信安全计算技术（MPC）为例，指出加密技术在数据治理上能够发挥更加重要的作用，并建议将一系列可信算法和相关的真实机构结合起来，通过合作建立可信数据治理的基础。

中国科学院院士、清华大学人工智能研究院名誉院长张钹从当前人工智能的脆弱性谈起，介绍了清华大学人工智能研究院在第三代人工智能方面的最新工作，指出人工智能发展与治理应当相辅相成，共同前进，并呼吁各国团结起来共同发展安全、可靠、可信、可拓展的第三代人工智能技术。

清华大学人工智能国际治理研究院名誉院长、前外交部副部长傅莹在主论坛讲话中呼吁在人工智能领域建设包容性强的国际治理委员会，共同去研究、探讨、吸呐各方面好的建议和意见，形成共同的国际规范。她说，“中国国内在对人工智能技术应用的治理和立法方面已经在采取实际行动。当然，从更大的角度看，这是人类共同的难题，不是一个国家、两个国家能解决的。中美两国乃至国际机构和各国围绕这个话题展开合作至关重要，我们希望也相信这不是一场零和游戏，人工智能最终应使得全人类受益。”

清华大学人工智能国际治理研究院院长薛澜教授认为，目前人工智能发展面临的最大挑战是——人工智能技术发展太快，而治理准则作为一种社会体系，其发展是缓慢的、渐进的，因此我们需要“敏捷治理”。他指出，“人工智能可以学习已有的国际机制，未来不断加强人工智能领域的国际合作，我们可以在合作过程中找到各方的共同点，并不断探讨、沟通，一同寻找人工智能共同的准则和规则，引导人工智能的健康发展，为人类造福。”

清华大学人工智能产业研究院院长张亚勤在发言中强调了人工智能治理的三大维度，一是通过技术创新，实现负责任的人工智能技术，包括数据分析模型，通过预测来防范疫情，以及提升个人健康水平的应用开发等；二是加强国际合作，在国际层面上进行充分的对话与交流，以应对最为紧迫的问题；三是推动人工智能的大规模使用，以及同时确保相关技术的安全性问题。

首届清华大学人工智能合作与治理国际论坛共设有五场分论坛，涉及人工智能在抗击新冠疫情中的作用、人工智能治理促进可持续发展、人工智能与国际安全、人工智能治理国际合作、数据与人工智能安全等主题。

在清华大学人工智能国际治理研究院主持的“人工智能在抗击新冠疫情中的作用：经验与教训”分论坛上，来自国内外学界、企业界、知名智库和政府部门的专家学者和听众近百人通过线上线下方式交流研讨，共同分享人工智能抗疫国际经验。清华大学人工智能国际治理研究院国际学术交流项目主任、清华大学交叉信息研究院助理教授于洋介绍了研究院所做的一项最新研究，指出人工智能技术之所以能够全面快速渗透性的参与中国的疫情治理，主要是由于企业主动参与治理，算法思维的政府，以及在政府和企业中都大量存在的枢纽性部门三个关键因素。世界卫生组织健康领域AI伦理专家组组长、苏黎世联邦理工学院大数据与人工智能伦理学教授埃菲·瓦耶娜认为，由于各个国家的保障体系和数字化程度不一，数字转型和治理是非常紧迫的任务，有必要加强合作和协调，但同时也要注意伦理方面的问题。美团副总裁、首席科学家夏华夏指出：人工智能带来的伦理问题可以用技术的提升去解决，但同时也需要通过法律来规范技术的应用。商汤科技亚太业务事业群总裁、战略规划副总裁史军说：“AI伦理风险的边界和核心要求是发展负责任的人工智能，在治理和合规上企业要先想一步，先做一步。”

联合国开发计划署主持的两场分论坛分别探讨了人工智能治理对实现可持续发展目标的影响以及人工智能治理的国际合作。来自国际组织、政府、高校、研究机构、企业、媒体等领域60多家机构的70位嘉宾应邀出席会议。

在“人工智能治理促进可持续发展”分论坛上，与会专家们探讨了在可持续发展目标的框架下，在医疗、教育、灾害预警、应对气候变化以及消除贫困和不平等方面人工智能所具备的巨大潜力和带来的风险与挑战。联合国儿童基金会全球创新主任托马斯·戴文（Thomas Davin）说：“如今，全球半数人口未能使用互联网，然而人工智能和机器基于数据而学习。因此，由数据加剧的不平等值得担忧，人工智能的使用正在向那些发达的国家倾斜。”中国科学院自动化研究所中英人工智能伦理与治理中心主任曾毅表示“据目前数据分析，已有八百多万的科学研究论文跟人工智能相关，但其中只有0.1%同时与可持续发展目标相关。因此，作为人工智能领域的专家，我们的责任是要更多地将人工智能与可持续发展目标相结合。”麻省理工学院物理学教授、未来生命学院联合创始人马克斯·泰格马克（Max Tegmark）表示：“在人工智能的发展领域，我们共同进退，要想取得成功，就必须加强全球合作。这项技术的潜力是无限的，只要我们避免冲突的产生，携手合作，就能使所有国家实现更快的发展，实现共同富裕。”

“人工智能治理与国际合作”分论坛的探讨主要围绕未来的全球治理机制的协调与合作过程中面临的挑战，以及各个国家如何在能力建设和信息交流方面增强合作。洛克菲勒基金会高级副总裁齐亚·汗（Zia Khan）表示：“有人担心在人工智能的发展初期，治理会阻碍其创新发展。但是，如果我们不为人工智能的发展制定其合适的治理框架，其发展会受到现有政策和法规的约束，从而阻碍其发展和使用，也无法实现人工智能的社会价值。”新加坡信息通信媒体发展管理局（IMDA）首席执行官助理杨子健表示：“毫无疑问，促进更多人工智能治理方面的国际合作是当务之急，这样的合作将有利于产业发展和创新，并有助于相关从业人员间的交流切磋。”

在“人工智能与国际安全”分论坛上，清华大学战略与安全研究中心发布了与美国布鲁金斯学会联合研究的“人工智能与国际安全”项目初步成果。布鲁金斯学会会长艾翰·艾伦（John Allen）表示，现在正是规范人工智能技术发展和应用的关键期，应抓住当下机遇，围绕降低人工智能可能构成的国家安全风险的实际步骤达成共识。清华大学战略与安全研究中心主任、人工智能国际治理研究院荣誉院长傅莹表示，中美关于人工智能安全治理的联合研究项目是一个成功的案例，双方都从中受益良多，研究结果也有很好的参考价值。希望人类能走在技术变革的前面，充分认识其风险，早些达成治理共识。中方团队牵头人、清华大学战略与安全研究中心研究员李彬对双方联合项目的情况，以及中方专家关于人工智能风险和治理的思路作了详细介绍。

在“数据与人工智能安全”分论坛上，学者与产业专家聚焦讨论了数据与人工智能的近期与远期风险与安全挑战及对策。剑桥大学研究员丹尼特·加尔(Danit Gal)重点总结了人工智能的内部风险与外部防御的近期挑战，并对各国数据规制应当形成全球协作提出建议。荷兰爱因霍芬理工大学文森特·穆勒(Vincent Muller)教授指出通用人工智能和超级智能的长远风险具有极大不确定性。与会专家一致表示，全球应当深度协作应对数据与人工智能的近期与长远风险。

此次论坛得到了清华大学人工智能研究院、清华大学智能产业研究院、清华大学战略与安全研究中心、北京智源人工智能研究院、清华大学中国科技政策研究中心、清华大学科技发展与治理研究中心、美国布鲁金斯学会、SPARK 联合国开发计划署可持续发展创新实验室以及清华大学产业发展与环境治理研究中心等机构的合作与支持。