王元丰：突破治理困境，构建AI发展“全球护栏”

联合国裁军研究所3月28日在瑞士日内瓦举办“全球人工智能（AI）安全与伦理”国际研讨会。在会上，中国裁军大使沈健表示，主要大国在人工智能领域互信缺失，个别大国泛化国家安全概念，量身定制芯片出口管制政策措施，打击所谓战略竞争对手的人工智能产业发展。如果国际社会放任这一趋势发展，将严重阻碍加强人工智能全球治理、应对人工智能安全挑战的努力。确实如此，我们还需要清楚认识到，全球人工智能治理的复杂性远超预期，它存在三个困境。

一是治理理念的分歧。在全球AI治理的理论层面，存在“超级对齐派”和“有效加速派”两种截然不同的观点。以AI科学家为代表的“超级对齐派”认为，AI的发展必须与人类价值观和伦理相一致。他们强调，AI的快速发展可能对人类社会造成不可逆转的负面影响，因此必须加强治理。“有效加速派”则认为，AI带来的问题应由技术自身解决。他们强调创新的重要性，认为过度治理可能会扼杀技术的潜力。

在实践层面，国际社会对于AI发展所制定的规章制度存在明显差异。欧盟作为全球首个出台《人工智能法案》的司法管辖区，其政策导向倾向于对AI引发的各种问题进行有效治理，以防止其对社会成员造成伤害。相比之下，美国政府，尤其是特朗普上台后，持截然相反的态度。他们认为，不应过度监管AI的发展。可见，无论是理论探讨还是实践操作，AI治理都面临着诸多不同的观点和立场。

二是治理主体的困境。全球AI治理还面临由谁治理、谁来治理更有力的不确定性。AI作为一种通用技术，其应用范围广泛，涉及每个国家、企业和行业。单一国家的治理显然不足以应对全球性问题，因此需要建立一个全球性的治理平台。然而，联合国等国际机构在以往的全球治理实践中，如气候治理和生物多样性保护，已暴露出诸多问题。

尽管联合国在AI治理方面做了大量工作，但成果仍有限。之后有了在英国、韩国、法国分别举办的AI行动峰会。不过，由于不同国家对AI治理的态度不同，这种由各个国家轮流坐庄的自发性治理模式，显然难以满足全球AI治理的需求。美国和英国在法国AI行动峰会上的拒绝签署行为，更是凸显了全球治理在协调各国立场上的巨大挑战。原本各国应携手合作，共同应对AI带来的挑战。然而，美国却对其他国家的AI发展进行打压，试图通过“断链”“脱钩”等手段来限制AI国际合作，对全球AI治理造成明显障碍。

三是全球治理速度的滞后。自2016年AlphaGo战胜韩国知名围棋选手、2017年击败世界排名第一的围棋选手以来，AI的发展速度令人瞩目。此后，新一代AI技术的崛起更是推动了行业的飞速发展，特别是2022年11月，美国OpenAI公司推出GPT。之后短短2年多时间里，我们见证了多个优秀AI大模型的问世。中国近期推出的DeepSeek等AI大模型也展现了大语言模型高效、强大的功能。这些模型不仅在技术上取得了突破，更在实际应用中展现出巨大的潜力。然而，随着AI大模型的不断强大，它们对人类就业、信息安全和社会伦理的挑战也日益凸显。

多年前，科学家霍金曾发出警告：人工智能的崛起，要么是人类有史以来最好的事情，要么是人类有史以来最糟糕的事情，我们现在还不知道是哪种情况。因此，霍金呼吁，在这一领域进行更多研究，以学会如何避免风险。

2023年3月，马斯克联合众多AI专家和行业高管，发布了一封公开信，呼吁暂停开发比GPT-4更强大的AI系统，为期至少6个月。然而，这一呼吁并未得到广泛响应。全球范围内，AI的发展仍在快速推进，而治理进程却因各方利益分歧和目标不一致而进展缓慢。 

全球AI治理是一个复杂而艰巨的任务，需要各国政府、国际组织和企业共同努力来应对挑战。联合国秘书长古特雷斯在巴黎人工智能行动峰会上说，AI已经在改变我们的世界，但它的技术力量目前仍掌握在少数人手里。他呼吁各国共同利用这项革命性技术，“弥合而非扩大发达国家和发展中国家之间的差距”，人工智能能力的日益集中“甚至有可能加剧全球地缘政治分歧”，必须通过各国政府、技术界、学术界的共同参与构建 “全球护栏”。（作者是中国发展战略学研究会副理事长、北京交通大学科技与战略研究中心主任）