中方代表：防止出现机器自主杀人

10月21日，中国常驻联合国代表团网站发布傅聪大使在安理会“科学发展对国际和平与安全的影响”公开会上的发言，全文如下：

主席，

中方感谢卡西斯外长主持此次会议。我认真听取了各位专家学者的发言，很受启发。

新一轮科技革命迅猛发展，是当今时代的显著特征。科技发展在赋能各行各业、为人类带来巨大便利和机遇的同时，也对国际和平与安全带来新的挑战。互联网已成为犯罪团伙和恐怖组织招募、融资、策划作案的重要渠道。“深度伪造”技术被滥用，助长虚假信息传播，引发社会争议和族群撕裂。网络攻击、网络窃密频发，损害许多国家的安全和公共利益。人工智能的军事应用正在颠覆传统战争形态，引发广泛担忧。在近期加沙和黎巴嫩冲突中，我们看到人工智能驱动的算法和远程操纵，可以造成难以想象的破坏和平民伤亡。滥用科技违反国际人道法的行为，应当受到谴责和抵制。

中国高度关注科技治理问题。我们推动安理会于2021年首次讨论新兴科技，欢迎安理会对此保持关注，支持安理会为履行自身职责，循序渐进地把科技纳入工作视野。科技是把“双刃剑”，我们需要统筹发展和安全，既鼓励创新又管控风险，让科技发展真正造福各国和各国人民。我愿强调三点看法：

第一，坚持“科技向善”，是规范科技发展的基本要求。要确保科技研发和应用符合伦理规范，符合公认的国际法规则，符合文明进步方向。我们支持联合国发挥全球科技治理主渠道作用，推动各国在广泛参与、充分讨论的基础上，探讨建立普遍接受的规则规范。

第二，弥合数字鸿沟，不仅是共同发展的要求，也是应对安全风险的需要。发展中国家长期被排除在科技进步之外，就容易成为全球安全的薄弱环节。要支持和帮助发展中国家迎头赶上，平等享受科技进步带来的机遇。中方推动第78届联大通过了人工智能能力建设国际合作决议，并在今年9月宣布了《人工智能能力建设普惠计划》。我们将积极落实计划提出的“五大愿景”和“十项行动”，支持全球南方加强人工智能基础设施、产业赋能、人才培养、数据建设和安全治理，共享智能红利。

第三，确保安全可控，是科技发展的底线要求。**要确保人工智能始终在人类控制之下，防止出现机器自主杀人。要反对滥用科技优势侵犯他国主权、干涉他国内政、破坏他国稳定。要防范网络攻击、网络窃密和网络军备竞赛，特别是保障关键信息基础设施安全。**中方将继续在联大推动“和平利用国际合作”决议，支持推进防扩散目标的同时，促进发展中国家不受歧视地和平利用科技。

主席，

科学无国界。近代以来人类科学探索和技术创新的每一次重大突破，从来都是在国际交流合作中取得的。应对科技变革带来的风险挑战，同样离不开国际合作。

令人遗憾的是，一些有违科学发展规律和历史潮流的做法正在抬头。我们看到，个别国家泛化国家安全概念，以防范风险为由，无底线打压别国高科技企业。他们鼓吹所谓的“脱钩断链”，对国家间正常的经贸往来和科技交流设置障碍。他们还精心组织各类“小圈子”，将特定国家排除在外，构筑所谓的“小院高墙”。这些做法同国家安全的关系实在过于牵强，真实意图是固化自身技术垄断、阻遏他国发展，其本质是零和博弈的冷战思维在作祟。这一系列消极操作已经搅起一片纷乱，“小院高墙”正在变成“大院铁幕”，严重破坏产业链供应链稳定，加剧发展鸿沟，阻碍科技进步。

我们尤为担忧的是，同科技本身带来的风险相比，这种人为制造分裂的做法对国际和平与安全的危害更大，最终可能把世界带入对抗的深渊。古特雷斯秘书长已明确警告，世界被人为分割成两个市场、两套规则、两大体系，强迫各国选边站队，将给所有国家带来严重后果。

主席，

正如《未来契约》强调的那样，国际合作不是选项而是必需。只有开展最广泛的合作，让科技创新服务于联合国三大支柱工作愿景才能成为现实。我们呼吁各国共同秉持开放包容理念，以落实《未来契约》为契机，支持联合国发挥全球科技治理主渠道作用，推动科学技术助力共同发展、共同安全、共同进步。

谢谢主席。