曾毅：创建全球人工智能治理网络刻不容缓

人工智能（AI）技术与应用发展迅速，现有的监管框架很难在速度与复杂度上与之相匹配。以生成式人工智能为代表的人工智能技术在赋能社会发展的同时，也为社会带来了一时难以解决的挑战。例如基于生成式人工智能的虚假信息对互联网和社会信任造成了难以估量的负面影响，若任其发展，甚至可能会对全球政治稳定构成威胁。此外，当前的人工智能仍然是一个具有安全风险隐患的信息处理工具，对其误用或滥用可能会给人类带来灾难性的风险。我们需要有效的技术和社会机制来确保人工智能的健康发展与应用。

许多人工智能领域的应用与社会、文化息息相关。以生成式人工智能为例。其生成内容来源于不同国家和文化，生成的内容服务于不同文化的人民。因此，现代人工智能的发展与应用必须保持极强的包容性和多元性。同时，许多人工智能行业和产品都面向全球提供服务，这个时候，必须遵守不同的监管框架。因此，不同区域监管框架之间的接口与互操作性对全球化至关重要。

目前有一些国际性跨政府组织，旨在协调人工智能的发展与监管，但都还不足以真正成为在人工智能事务方面进行全球协调的平台。联合国教科文组织的《人工智能伦理问题建议书》融合了专家、公众和跨政府磋商的智慧，是当今有关人工智能治理认可度最高的国际文件之一。未来至少应该在以下两方面支持联合国教科文组织的努力。一，目前193个成员国已就建议书内容达成一致，进入了实施阶段。成员国应当积极支持并实施建议书中的价值观与政策，实施相应的技术和社会行动。二，各国以及各政府间组织应当从这项努力中寻找灵感，并将其积极扩展到教育、科学和文化的领域之外。从更为技术的角度而言，国际电信联盟在智能向善（AI for Good）方面的一系列努力是全球对话的重要补益；国际标准化组织在AI标准方面也进行了一系列努力，虽然目前很多都不是强制性的，但也是技术领域的重要基础。

目前，还没有真正有效的框架可以支持人工智能治理的全球协作，而这恰恰是人工智能健康发展和应用不可或缺的。目前，联合国教科文组织、国际电信联盟、国际标准化组织、经合组织和全球人工智能伙伴关系组织等人工智能治理主要专注于技术、社会或地域性视角。我们非常有必要在更大范围的政府间组织补充上述努力，包括二十国集团（G20）、金砖国家、上海合作组织等。不仅需要将这些组织开展的人工智能治理工作结合在一起，还需要更有效地协调它们之间的关系，使其潜力惠及更大的范围，甚至造福全球。真正有效的全球治理框架需要从技术和社会的角度进行更系统的设计。

更有效的全球治理框架能够整合现有的分散治理，其中联合国应是这一框架的核心。正如联合国秘书长安东尼奥·古特雷斯所言：“新的实体应该从国际原子能机构、国际民用航空组织以及政府间气候变化专门委员会等模式获得启发”，同时这个新机构的机制应足够灵活和自适应，以应对新的变化，不仅能够及时处理新兴的近期风险，并有能力为长远风险提供富有远见和深思熟虑的方案，有效地协调和指导人工智能发展的主要机构和国家。最重要的是，要尽可能地包容，不落下任何国家、任何人。若新的联合国人工智能治理机构能够成立，应将现有的分散治理努力编织成全球人工智能治理网络。

在这样的治理网络下，这些组织在职能和参与机构方面部分重叠，却没有绝对的层级划分，因此全球人工智能的国际治理是一个机制复合体，联合国是网络的核心与枢纽，每个组织都有自身的关注重点并与其他组织互补。治理网络的机制在某种程度上与“协同治理”一致，要求至少两个层次的协调，一方面是通过联合国协调不同的组织，而另一方面是这些不同的组织自行协作与协调。由于没有人能够预测人工智能的未来，也无法知道我们应该如何精准地开展治理，因此从务实的角度出发，应采用全球实验性治理机制。在设置区域性法律并增加区域性治理之外，应当开展全球探索性实验治理，详细的治理模型与政策应根据全球实践及时修订。

协调全球人工智能治理的目的是推进人工智能的健康发展并让其服务于人类社会。这既要求协调好不同国家和地区的发展与治理，还要推进AI赋能全球的可持续发展，协调国际资源以解决生物多样性保护、气候变化、文化遗产与文化互鉴等全球性问题，这个全球网络的总体目标从长远而言应致力于全球生态的改善和人类命运共同体的实现。（作者是中国科学院自动化研究所研究员、人工智能伦理与治理中心主任、国家新一代人工智能治理专委会委员）