AI会威胁人类吗？UNESCO助理总干事：关键在于我们如何建立治理框架_风闻

2025年6月16日，联合国教科文组织助理总干事加布里埃拉·拉莫斯（Gabriela Ramos）到访全球化智库（CCG）。在开场环节，CCG理事长、国务院原参事王辉耀博士首先介绍了拉莫斯女士在多边机构中积累的丰富经验。随后，拉莫斯以“人工智能发展的伦理基石与全球治理”为题，发表了精彩演讲，深入探讨AI时代面临的伦理挑战与全球合作路径。以下为开场环节全文内容：

从OECD到UNESCO：拉莫斯女士的国际多边合作与治理之路

CCG理事长、国务院原参事王辉耀**：**加布里埃拉·拉莫斯女士，尊敬的各位来宾、女士们、先生们，我非常荣幸欢迎联合国教科文组织助理总干事加布里埃拉·拉莫斯女士访问CCG和中国。她将发表精彩演讲并参与讨论，我们也将与她进行对话。能够在这个特别的活动中欢迎她到来，我深感荣幸。

“CCG全球名家对话”系列已开展五年，我们曾与数百位世界领导人、知名专家、政治人物及智库负责人进行交流。今天我们非常高兴又迎来一位重要嘉宾加入这一系列。

我首先想邀请加布里埃拉·拉莫斯女士发言。拉莫斯女士是一位极具声望的墨西哥经济学家与外交官，现任联合国教科文组织（UNESCO）社会与人文科学助理总干事。众所周知，教科文组织是联合国下属的重要机构，具有广泛的国际影响力。作为助理总干事，她主导推进包容与和平社会建设的多项倡议，重点涵盖社会融合、性别平等、青年发展、反种族主义，以及新兴技术伦理，尤其是在人工智能与神经技术等前沿领域，展现了卓越的领导力。

拉莫斯女士拥有十分出色的教育背景。她获得了美国一所大学的国际关系学士学位，并于哈佛大学肯尼迪政府学院取得公共政策硕士学位。她的职业履历同样令人瞩目。早年，她曾为墨西哥外交部的部长提供政策咨询，随后共同创办了一家咨询机构，推动海外墨西哥公民的投票权。

我开始认识拉莫斯女士，是在她任职于总部设在巴黎的经济合作与发展组织（OECD）期间。她曾担任OECD墨西哥中心主任，积极推动包括“全民健康保险”项目在内的重要改革，并为墨西哥的反垄断立法作出贡献。更为重要的是，在OECD巴黎总部，她升任为秘书长古里亚的内阁主任，并成为该组织首位G20事务协调人，常代表OECD出席二十国集团峰会，牵头多个重要倡议，包括“包容性增长商业联盟”（B4IG）平台，主导战略改革，将OECD预算扩大了68%，新增8个成员国，成绩斐然。我还记得几年前，OECD首次举办国际移民部长会议时，我曾陪同中国国家移民管理局代表团出席，受到包括拉莫斯女士在内的OECD高层的热情接待。

当然，拉莫斯女士的成就远不止于此。在OECD取得卓越成就之后，她于2020年出任UNESCO社会与人文科学助理总干事，这同样是一个极为重要的国际机构。自上任以来，拉莫斯女士积极推动一系列变革性举措，致力于强化教科文组织在科学、政策与伦理交汇处的战略角色，在其领导下取得了诸多重要成果。

其中最具代表性的成就之一，是她主导起草并推动《人工智能伦理建议书》的通过。该建议书于2021年11月获得教科文组织193个会员国一致通过，意义重大。在当前国际社会日益关注人工智能发展的背景下，该建议书的出台具有深远影响。作为联合国体系内的全球组织，教科文组织首次就人工智能伦理提出全球性的规范与指导方针，为人工智能的开发与应用提供道德指引，可谓开创先河，成就卓著。

截至2024年中，已有60多个国家将该建议书所倡导的伦理原则纳入本国的制度与法律框架中，这一进展得益于在拉莫斯女士指导下开发的“人工智能伦理就绪度评估方法”（RAM）。智利、摩洛哥等国家已据此制定本国的人工智能政策与发展战略，为全球其他国家树立了良好示范。

此外，她还推动设立了“女性推动人工智能伦理”（Women4Ethical AI）倡议，汇聚全球领先的人工智能专家力量，推动性别平等在人工智能领域的实现。

2025年，作为UNESCO社会与人文科学部门重点活动之一，“全球人工智能伦理论坛”将举办，旨在推动行为变革并应对相关议题。同时，UNESCO在气候行动方面也有所作为。2024年还举办了以“哲学：弥合社会鸿沟”为主题的“世界哲学日”，强调哲学在修复社会结构、促进包容性社会发展中的关键作用。

拉莫斯女士的成就可谓不胜枚举。她也是一位卓有建树的文明研究专家，始终强调文明对话在构建可持续与包容性社会中的基础性作用。她主张通过对话来增进理解、加强合作、建立互信，尤其是在面对气候变化、全球疫情、日益加剧的社会与经济不平等等全球性挑战时，这种交流尤为重要。

因此，我们非常高兴能在此次活动中邀请拉莫斯女士在CCG发表演讲并与我们展开对话。她呼吁扩大优质教育的可及性，对科学与技术进行伦理监管，并在全球治理平台上发挥更大影响力，以提升全人类的生活质量。

我与拉莫斯女士相识多年。记得我们曾就文明对话开展深入交流，也都曾是巴黎和平论坛指导委员会的成员。我也非常高兴得知您正在参选UNESCO总干事，并且是最具实力的候选人之一。我们衷心希望您此次访华卓有成效，也预祝您在竞选过程中取得圆满成功。

接下来，让我们以热烈的掌声欢迎加布里埃拉·拉莫斯女士发表主旨演讲，随后我们将与她进行对话。

**主题演讲：**人工智能发展的伦理基石与全球治理

**联合国教科文组织助理总干事加布里埃拉·拉莫斯：**非常感谢您，辉耀。非常高兴与您重逢并参与这场深入的对话。我此行由墨西哥驻华使馆的同事陪同，还有我多年的好友曾毅教授一同出席。也非常感谢您刚才的热情致辞与精彩介绍。能够来到CCG这一重要平台，我感到由衷高兴。回顾这些年来CCG接待过的众多杰出嘉宾，这里无疑是当今时代不可或缺的交流与思想汇聚之地。

我此次前来，是作为墨西哥推荐的UNESCO总干事候选人。但正如辉耀所言，我在多边体系中已有多年工作经验，无论是在OECD，还是现在的UNESCO，我始终致力于推动国际机构切实发挥作用，为我们所面临的各类全球性挑战提供可行的解决方案。我认为，其中一个关键课题就是：我们如何确保当前日新月异的技术变革，能够服务于建设一个更加包容、更加可持续的世界。

我愿从这一话题切入。当前，国际机构正面临前所未有的压力，多边主义的价值和作用正在被质疑。一些主要国家更倾向于采取双边甚至单边主义的方式行事，而我们深知，世界各国之间的联系早已紧密交织。我们所面临的不平等、气候变化、人口老龄化、环境退化、移民问题以及技术发展等所有挑战，皆为全球性问题，超越国界。因此，当今世界比以往任何时候都更加需要强化多边主义，而不是削弱它。

但我们所倡导的多边主义必须是有效的，这一点同样至关重要。我最近在法国颇具影响力的刊物《大洲》杂志（Le Grand Continent）上撰文，探讨如何避免将所有国际机构一概而论、打包否定、最终被“丢入废纸篓”。实际上，不同机构有着不同的影响力、不同的成果与成效，它们的表现也各有差异。

确实，联合国体系中的许多机构都存在改革的必要。我们也一直在积极推进相关工作。联合国体系需要更具灵活性、更高效、更具影响力。但与此同时，我们也应当看到多边合作中那些成功的案例与经验，这些值得我们总结、推广并传递出清晰的信号：并非一切都在失效，仍有许多机制在发挥积极作用。

正如辉耀刚才所提到的，UNESCO便是一个重要的例证。人们普遍熟知UNESCO在文化遗产保护方面的工作，尤其是世界遗产名录，也了解其在教育领域的贡献，但较少了解其在科学领域的职责。事实上，UNESCO成立于1948年，是联合国体系中最早设立的机构之一，其宗旨正是通过教育、文化与科学促进国际合作。我们肩负着推动全球对科学投资的责任，致力于保障科学家的研究环境与权利，因为在某些地区，科研环境仍面临诸多挑战，同时努力确保科研活动得到支持、资助与开放开展，推动知识生产脱离外部干扰，专注于推动人类对挑战的深入理解与回应。

此外，UNESCO还有一项核心使命，即确立科学发展中的伦理规范，为科学研究提供伦理框架。这一点至关重要。我们不会忘记，二战期间曾出现过许多严重违反伦理的科研行为。正是基于这样的历史教训，UNESCO承担起这项伦理使命，以确保科学发展始终植根于人类尊严与责任的价值基础之上。

当人类基因组研究突飞猛进，进展迅速，以至于人类具备了克隆自身乃至克隆绵羊（如“多利”）的技术能力时，正是UNESCO率先发出强有力的声音，对这类技术进行伦理规范与引导。我认为，当时我们提出的核心问题极具深意，为日后的科技伦理讨论奠定了基础：从技术上讲，我们确实可以克隆、可以复制、可以创造。但从道德和伦理的角度，我们是否应当这么做？问题的关键不在于“我们能不能”，而在于“我们是否应该”。

这种对技术与伦理的辩证理解也贯穿于我们后续关于人工智能的工作之中。人工智能的崛起，源于大数据的广泛获取、计算能力的跃升、云计算的发展，以及中美等国家在该领域的大量投资。这些因素推动计算机具备了生成复杂智能产出的能力，在某些情形下甚至超出人类本身的认知水平。

但问题再次出现：我们确实拥有了强大的机器学习能力，拥有了生成式人工智能、具身智能AI等新型技术，眼见这些技术能力以指数级速度增长，我们常常对其潜力惊叹不已。然而，问题的关键并不在于技术本身，而在于我们如何运用这些技术去构建一个更加包容、公正的社会。

如果我们对当前技术发展的阶段做一个速写，可以看到，自2022年11月生成式人工智能横空出世以来，确实带来了令人瞩目的突破。它的震撼之处在于这是一种能够“自我学习”的技术，我们现在已经渐渐对此习以为常。这一特征本身就引发了深刻的伦理与治理命题。

如果你在世界某个角落使用这些人工智能系统，通过与你的互动不断“教导”它们一些信息或议题，那么这种知识和学习将迅速扩散至全世界，这是令人惊叹的现象。而当下发展的“推理型AI”或“具身智能AI”更是令人震撼，因为它们具备取代人类的潜力。它们可以取代我，也可以取代你，甚至可以取代CCG的理事长。这是技术能力的体现。但问题在于，我们该如何构建相应的治理框架，确保我们关注的不是技术本身多么先进，而是作为政府、作为制度、作为人类，我们如何对这些技术进行有序、合理的引导与规范。

我非常高兴今天曾毅教授也在场。您是UNESCO《人工智能伦理建议书》制定工作组的成员之一。这份全球性伦理标准的制定过程本身就极具价值与意义，令人深受启发。它的特别之处在于，这一过程不仅由经济学家主导。在OECD的时候，通常是工作人员起草初稿，然后提交给成员国审议。而在UNESCO，我们采取了完全不同的做法。

我们邀请了来自不同学科领域的24位专家组成工作组，进行跨领域的集体研讨。这本身就是一件令人振奋的事情。我们当然有技术极客、工程师、经济学家和金融专家的参与，但我们也邀请了哲学家、心理学家、人类学家。他们共同从多维角度构建出一个“完整的人类经验图谱”。

**最终，我们提出的核心问题不再是“技术能做什么”，而是“技术能为我们做什么”****，**为我们解决什么问题、满足哪些需求、实现哪些社会目标。因此，这份建议书堪称杰作，它引导我们从技术本位的思维中跳脱出来，转向反思人类自身：我们希望构建一个怎样的世界？一个尊重并促进人权与人类尊严的世界，一个实现公平、可持续成果的世界，一个推动性别平等的世界。

这份建议书中所确立的价值观，源自具有全球代表性的专家群体的共识，并最终转化为一系列伦理原则：透明性、问责制、法治等——这些都是当代先进社会赖以组织自身生活秩序的基本规范。

而令人欣喜的是，作为一位长期从事政策研究与制定工作的专家，当我刚加入这一工作时，我提出：“这一切都非常好，但我们的政策章节在哪里？”我们需要将这些伦理原则转化为具体政策，为各国政府的决策提供可操作的指引。因此，我们进一步拓展了人工智能伦理的应用维度，深入探讨了其在教育、文化、劳动市场、经济、环境、性别平等、传播、教育等多个领域的影响与应对。正因如此，这份建议书最终成为一套切实可行的国际标准，使人们能够认真思考：“我们所倡导的这些原则，具体意味着什么？”

接下来，我们更进一步，因为我们看到目前全球在人工智能发展上的巨大不平衡：当前80%的人工智能成果，包括大型基础模型、前沿技术以及下一代系统，几乎都集中在中美两国。不仅仅是人工智能，还包括神经技术、合成生物学等多种与人工智能高度融合的新兴技术，这些发展也主要由少数几个国家主导。

与此同时，世界上大多数国家更多是这些技术的使用者，而非开发者。更令人担忧的是，全球仍有约30%的人口无法稳定接入互联网，更有大量公众尚不具备使用这些先进技术的能力，甚至容易受到技术误用的负面影响，比如虚假信息的传播、社交网络对青少年群体的深远影响等等。

**因此，我们决定开发一套“评估工具”，不再聚焦于技术本身，而是帮助各国判断自身是否具备运用这些技术的能力，更重要的是，是否具备治理这些技术的能力。**尽管人工智能是一个全球性议题，但最终真正制定规则、应对数据隐私被侵犯、或平台行为失当等问题的，将是各国自身。必须有机制、有责任主体，来发出警示并推动改进。

正因如此，这一倡议变得尤为引人注目。目前已有包括荷兰、印度、墨西哥、巴西这样的国家参与其中，中国也刚刚完成了“人工智能伦理就绪度评估”，同时也涵盖了如莫桑比克、马拉维、柬埔寨等发展中国家。令人欣慰的是，每一个国家都结合自身国情，邀请本国专家、产业界、学术界和民间社会代表，深入探讨：这些技术对本国意味着什么？他们对技术的愿景是什么？进而在此基础上制定符合本国利益与价值观的治理规则，推动人工智能健康发展。

**我相信大家都听说过一个“伪命题”，即所谓“监管扼杀创新”或“只有在无约束的环境中才能实现技术突破”。我认为这种观点是完全错误的。**我们正在努力将有关人工智能的国际讨论，从这一误导性的二元对立引导至一个更加理性、有序的方向，即：通过丰富的政策工具来引导和塑造技术的正向发展。

让我举几个例子来进一步说明。当前我们正处于一个科技突破与创新日新月异的时代，许多科学研究成果迅速转化为市场应用，并被企业与社会广泛使用。这也引发一个值得深思的问题：各国在科研与技术创新上的投入究竟有多少？抛开是否处在人工智能前沿不谈，更本质的问题是：各国是否真正重视并持续投资于研发？

数据显示，中国、韩国、美国等国家的研发投入已达GDP的4%至6%；而与此同时，一些地区的国家研发投入却不到GDP的0.3%、甚至0.2%、0.1%。所以，问题并不在于“是否有大科技公司希望无节制地推销产品”，而在于我们如何构建自身的能力基础，以更好地应对和利用技术变革所带来的机遇与挑战。

关于技能建设——我们应当如何培养相关人才？让我一直印象深刻的是，当美国前总统拜登发布美国政府关于人工智能的行政命令时，其中一个核心要素便是人才的吸引、培养与留存。美国作为当前与中国并驾齐驱的技术引领国，尚且将“人才”列为首要战略重点，我想这对所有国家而言都是一个明确的信号：必须加大对人才的投资。

另一个令我尤为关注的问题是，政府如何具备将技术用于公共利益的能力。在与各国政府交流时我发现，他们并不期望自己成为生成式人工智能的技术专家，不需要深究开源或闭源、大模型架构或平台演进的细节。他们真正关心的是，如何借助这些技术为本国的卫生、教育等公共服务体系赋能和改革。这正是转变治理模式的关键所在。

**这也正是UNESCO组织这项工作的深远意义之一：赋予各国政府以“主动治理”的能力意识，使其意识到自己可以将技术转化为切实有益的工具。**而这正需要系统性投资于政府的能力建设，包括理解技术本质、制定合适的监管政策与法律框架。

我最近还注意到一个值得关注的例子：三年前，美国联邦参议员彼得斯推动立法，要求参与公共采购的政府官员必须具备人工智能相关知识。这项倡议虽然看似微小，却意义重大。因为，当政府进入市场采购人工智能平台或相关系统时，必须了解这些技术的风险与潜力，才能有效规避问题并保护公共利益。

投资于自身运用技术的能力至关重要。当然，我并不是要淡化对技术本身理解的重要性。我们确实需要了解这些技术，因为随着每一代技术的突破，许多原本被视为“已找到答案”的问题，也会因此被重新定义。

还记得十年前，我们刚开始研究人工智能早期模型时，很多研究预测称未来将有50%的岗位会被取代。随后，讨论的焦点逐渐从“岗位消失”转向了“任务替代”——人工智能所取代的，不是整个职业类别，而是职业中的某些具体任务。

再后来我们又认为，那些可以被编码的任务最容易被替代，也就是说，人工智能技术对中等技能水平岗位的冲击最大。当时人们普遍担心：打字员、接线员、预订人员等从事重复性工作的群体将首当其冲被淘汰。针对这些担忧，我们制定了相关政策，致力于保护这些人群，推动他们技能再培训、岗位转换或组织重组，努力避免技术发展带来的伤害。

**然而，生成式人工智能的出现彻底改变了这一预期。它的能力远远超出了执行重复性任务的范畴，甚至开始取代部分白领职业。**它已经能够编写代码，有可能替代律师、部分工程师等高技能岗位。这再次提醒我们，技术发展远非线性，政策应对必须与时俱进。

正如我之前所说，人工智能的能力正不断提升，而随之而来的，是层出不穷的新挑战。例如，过去我们对“算法歧视”问题的关注，即由算法做出的决策可能导致歧视性后果，几乎一度被“安全风险”问题所取代。还记得在英国举行的人工智能安全峰会，会议重点讨论的正是这一问题：如果开放源代码、任何人都可以编写程序，那么技术也极易被滥用，可能带来严重的安全隐患。因此，联合国秘书长设立了高级别顾问委员会，推动《全球数字契约》的制定工作。

归根结底，这是一个不断正视并应对问题的过程。我深感欣慰的是，正因UNESCO在这一领域的努力，越来越多国家开始理解这些技术的运行机制，更重要的是，意识到自身应当采取哪些行动。

我担任助理总干事期间最令我感动的时刻之一，是与柬埔寨邮电部长谢万德先生的交流。我此前并未与他见过面，毕竟我们在全球与多达70个国家开展合作工作，很多工作都是由我们的驻地团队完成，并不意味着我会亲自走访每一国。但那次他在法国出席人工智能行动峰会时特地前来见我，并说：“我要感谢你。正是因为和UNESCO的这项合作，我才真正明白自己该做什么。”这番话让我深受鼓舞。如果一位部长能够明确表示，“你们的工作让我明确了方向”，那意味着我们真正产生了影响。我认为，这正是我们所应当追求的目标。

因此，我相信，像这样的经验值得在全球范围内广泛推广。每当全球社会齐聚一堂，在圆桌旁围坐时，我们都应致力于以正确的方式界定问题、凝聚共识。这正是世界在《巴黎气候协定》中所做的努力——通过国家自主决定贡献方案（NDC）建立全球气候治理框架；也是我们在OECD改革国际税收体系、防止逃税与税基侵蚀时所采取的方式；同样，我们在制定性别平等相关规则与政策时也秉持了这样的理念。

**唯一的问题在于：达成协议固然令人鼓舞，但真正的价值在于落实执行。**这是我多年工作中最深刻的体会之一。因此，我就讲到这里，接下来我们可以继续探讨如何确保一个更加可持续的人工智能未来，同时也要思考，如何保障那些肩负全球责任的国际组织能够持续发挥积极作用，推动善治。非常感谢大家。

（本文根据CCG全球对话系列之“王辉耀对话联合国教科文组织助理总干事加布里埃拉•拉莫斯”的发言录音翻译整理，未经本人审阅，转载请注明出处）