金砖国家领导人关于人工智能全球治理的声明

外交部网站9日发布金砖国家领导人关于人工智能全球治理的声明，全文如下：

人工智能代表着推动全球迈向更加公平未来的重要机遇，将激发创新、提升生产力、推动可持续发展实践，并切实增进全人类福祉。

为实现上述愿景，人工智能全球治理须降低潜在风险，着力解决各国特别是全球南方国家的需要。治理须在《联合国宪章》和各国监管框架下开展，尊重国家主权，遵循代表性、发展导向、可及性、包容性、动态更新和敏捷性原则。治理应切实注重个人数据保护，保障人类权益，确保安全、透明、可持续，且有利于弥合本国及国家间日益扩大的数字与数据鸿沟。世界各国应共同努力，构建以联合国为核心的人工智能治理体系，弘扬共同价值观，应对风险，建立信任，确保广泛包容的人工智能国际合作与可及性，包括加强发展中国家人工智能能力建设。

在国际层面，各类治理倡议的激增及多边协调中的分歧，可能加剧现有不对称和全球数字治理的合法性赤字，从而进一步削弱多边主义。

为支持开展建设性对话，实现更加均衡的治理路径，我们，金砖国家领导人一致同意制定一系列指导方针，以负责任方式推动人工智能技术开发、部署和应用，助力实现可持续发展和包容性增长。这些方针仅限于非军事领域的人工智能，应通过国内或适用的国际框架及具有互操作性的标准与协议，以包容、透明、基于共识的方式予以落实。

一、多边主义、合法性与数字主权

联合国是人工智能全球治理的核心。全球人工智能治理必须不惜一切代价避免碎片化与重复。我们必须依托联合国系统作为充分包容且具有代表性的国际框架推进人工智能国际治理。在联合国相关倡议的决策进程中，我们须推动新兴市场和发展中国家及全球南方国家有意义参与并发挥作用，同时认识到区域和多利益攸关方框架的互补作用，鼓励开展人工智能政策交流和对话，激发创新活力，促进经济增长。

人工智能协同共治错综复杂，但前景可期。发达国家与发展中国家的相关利益攸关方网络应根据各自角色与责任，贡献专业知识、观念和资源。重申各国政府在人工智能治理中占据基础性和主导性作用，我们愿同私营部门、民间机构、国际组织、科研和学术团体以及其他利益攸关方密切合作，以实现代表性和包容性。

数字主权和发展权是全球人工智能治理的关键。我们坚定支持各国在捍卫基本权利的同时，有权充分利用数字经济与新兴技术特别是人工智能带来的发展红利，通过加强数字基础设施建设、培育本土技术人才、确保公民免受人工智能风险伤害等方式，制定本国法律权限范围内的人工智能监管框架，提升人工智能研究能力，培育自主技术创新，确保数据安全，推进本国数字经济发展。

二、市场规范、数据治理与技术可及性

公平竞争和市场规范是人工智能迈向公平未来的基石。数字经济应根据国内法律框架和法规及适用的国际协定，明确国家、企业与用户的权利和义务，构建公平竞争的市场环境，促进创新和经济增长。我们强调避免监管体系碎片化，推动公平、透明的市场规范重要性，鼓励竞争，增强竞争力，避免任何形式的扭曲行为，营造可持续、健康的市场环境。

数据治理是人工智能包容性治理的关键。我们强调，公平、包容和公正的数据治理对发展中国家利用数字经济和人工智能等新兴技术至关重要。我们同样认识到需根据《金砖国家数据经济治理谅解》建立数据治理框架以建立信任，在尊重隐私权、个人数据保护、算法透明性、知识产权和国家安全等相关法律框架的同时，为发展中国家提供公平、一致、安全、可靠的高质量数据。

人工智能技术获取应遵循公平、公正、赋能性与包容性原则。世界各国，无论处于何种经济发展阶段，均享有开发、使用人工智能并从中受益的权利。我们强调应通过国际合作促进人工智能技术及关键部件的获取，消除人工智能研究与创新的资金壁垒，尤其是在中低收入国家构建必要的知识、技能与风险管理框架，以有效利用人工智能技术。

保护知识产权与维护公共利益之间需要平衡。应在专利权、透明度及问责制之间建立平衡，以维护公共利益，促进国际技术转移，遵守国内法律及适用的国际法。针对未经授权的人工智能使用，应建立适当的知识产权特别是版权保护机制，防止剥夺性数据提取和隐私侵犯，同时建立公平的补偿机制。相关保护措施应明确问责机制，遵守人工智能模型输入与输出透明度要求等相关法律。

人工智能发展应坚持开放原则，鼓励创新生态系统。在符合各国政策与优先事项的情况下，我们鼓励通过开放科学和开放创新机制推动开源发展和国际科技合作，将其作为提升人工智能研究、开发、创新、数据保护、数据主权及部署能力的关键引擎，允许研究人员、开发者及相关组织进行审查和审计，进而构建安全、可信、透明的人工智能系统。我们必须确保实质性参与并培育包容性协作方式，防范全球人工智能发展和供应链壁垒。我们鼓励开发资源高效、专业、开放的基础模型，促进人工智能创新生态系统发展。

国际标准应助力实现具有包容性、代表性及可及性的人工智能。制定人工智能系统技术标准、规范与协议应有公共部门、标准制定组织及联合国专门机构的参与，以确保在人工智能技术全开发周期及跨平台应用中具备可信性、互操作性、安全性与可靠性。我们必须杜绝以标准制定变相为中小企业及发展中经济体构筑市场准入壁垒。

三、公平与可持续发展

人工智能应普惠共享。健全的基础设施、有意义的互联互通和数字包容是任何国家部署人工智能的先决条件。在数字公共基础设施等基础上构建的数字政务服务，可能会成为数字经济包容性发展、保障公民权利与福利的催化剂。应通过国内政策、多边开发银行等解决能力和基础设施领域存在的普遍差距，以推进人工智能在新兴市场国家和发展中国家的应用与开发。

人工智能引领协同可持续发展。我们致力于通过开源等方式支持人工智能应用，应对医疗卫生、教育、安全、交通、能源、农业、环境、水资源及废弃物管理等领域的关键发展挑战，相关工作需遵循各国法律与优先事项。应持续推广人工智能对可持续发展的益处。我们将聚焦培育、赋能本土技术能力与抱负的研究、开发与创新倡议，弥合发达国家与发展中国家间的技术鸿沟。

环境可持续性是人工智能发展的前提。人工智能应帮助减排、适应气候变化、助力环境保护、推动可持续资源管理与优化、维护生态平衡，助益经济社会可持续发展，并与各国优先事项保持一致。开发和部署人工智能应具有可持续性，最大限度减少其对环境的影响，应对温室气体排放、能源和水资源消耗、材料使用以及电子废弃物等问题。发展中国家应把握低碳经济转型带来的机遇窗口，并通过人工智能领域的技术进步引领发展。

人工智能应保障体面劳动，提高生产力。人工智能系统有提高生产力、激发创新活力、创造就业机会的潜力，但同时也给劳动环境、工作强度和岗位替代带来挑战、关切和风险，对就业和劳动者尊严构成威胁。当前，数字平台快速发展，生成式人工智能等对就业市场的结构性影响日益显著，我们应保障全体劳动者特别是直接受到数字化转型影响群体的权力与福祉。在设计、部署及使用人工智能时应考虑人力资源的适应性和兼容性，利用人工智能等技术的优势，促进体面劳动，实现充分和生产性就业。

人工智能应成为变革教育和学习的工具。人工智能系统能够整理信息、定制个性化体验和提供建议，我们担忧，过度依赖人工智能系统可能对人类认知、决策过程及应对复杂信息环境的能力产生影响。我们致力于提升民众数字素养，特别是教师与学生的数字素养，使其能够审慎评估人工智能生成内容，理解算法固有的偏差，培养强大的知识自主意识和批判思维能力。

四、符合伦理的、可信的、负责的人工智能，造福所有人

人工智能必须具有包容性。我们认识到，在数据集和人工智能模型中，知识、文化遗产和文化价值的缺乏存在被滥用和歪曲的风险。我们重申构建合乎伦理的、透明的和负责的框架具有重要意义，例如联合国教科文组织提出的《人工智能伦理问题建议书》。人工智能系统的研发必须充分尊重各国语言、文化、种族、地理及人口多样性。我们为此应开展国际合作，来训练全面、多语种、包容的优质数据集，并培育本土人工智能人才。

必须着力减轻歧视性偏见。我们需要有力工具识别并减少错误及负面算法偏差，确保独立审计机制以维护公平，制定针对偏见风险的评估标准，避免歧视性和排他性现象。使用歧视性数据训练的人工智能系统，往往对女性、少数族裔、残障人士以及儿童、青少年、老年人等弱势群体影响最为严重。推动不同背景人员开展跨学科合作对制定标准、提升模型运行与输出的可解释性、制定切实可行的治理策略至关重要，有助于防范负面偏见，支持负责任、公平地开发人工智能系统。

必须将公共利益置于首位。我们将秉持以人为本的理念，构建和谐的人机交互关系，始终将人工智能作为提升人类自身能力的有力工具，确保人类对人工智能的最终控制权和监督权。我们将构建人类监督机制、提升人工智能决策透明度和健全有效的问责体系作为优先事项，以负责任且安全的方式推进技术研发与应用，降低相关风险，实现社会效益最大化。

必须坚持以事实为基础。人工智能生成的虚假文本、图像、音频及视频内容对信息真实性和完整性构成严峻威胁，可能引发舆论操控、社会动荡，影响公共机构公信力。我们将采取多维治理方式，提升信息完整性，强化媒体教育策略和地方传播工作，包括研发快速识别虚假信息和错误信息的工具，提升个体数字素养与批判性思维以增强网络内容鉴别力，制定明确的伦理准则与法规，在保护隐私权与数据安全的同时，满足人工智能在信息传播领域的开发和应用。

人工智能系统必须坚守安全与信任。我们认识到，需要实现人工智能安全、符合伦理、可信赖且负责任的发展，造福全人类。各国必须在遵循本国政策与安全考量的前提下，协同推动人工智能技术创新与可及性，同时应对人工智能技术引发的即时与长期风险。我们重申，携手应对并防范人工智能技术恶意应用的有关风险的重要性。应审慎设计人工智能系统及其他信息通信技术，使其能有效检测并防止技术滥用，例如欺诈、计算机攻击、网络犯罪或数据操纵等。

五、未来之路

通用人工智能应以审慎方式发展。至关重要的是，通用人工智能研究应遵循伦理准则，并以负责任且可信赖的方式进行应用，助力各国特别是新兴市场与发展中经济体的经济增长，并应对经济社会发展面临的紧迫挑战。若仅有少数实体掌控通用人工智能，将加剧不平等，催生新型技术依赖，对可持续发展带来严峻挑战。

迈向公平、包容的人工智能。金砖国家将采取共同、积极举措，为所有人创造公平的数字环境，确定共同观点，加强全球合作，推进联合国全球人工智能治理对话和国际人工智能科学小组，确保发展中国家有意义地参与相关进程并发挥作用。我们将汇集各方力量，在国际平台上推广包括上述指导方针在内的共同原则。我们欢迎各方特别是广大发展中国家为完善指导方针贡献智慧，将秉持开放态度持续优化相关准则。