首届AI峰会落幕，《布莱奇利宣言》能否防止“智能叛变”？

【环球时报报道 记者 崔瑾玥 陈子帅】近日，首届人工智能安全峰会在英国布莱奇利庄园落下帷幕。峰会发布《布莱奇利宣言》（以下简称《宣言》），称“人工智能带来巨大机遇，有潜力增强人类福祉、和平和繁荣，并已部署在日常生活的许多领域”。《宣言》同时也认为，对于前沿人工智能技术有意识滥用或者无意识控制方面的问题，可能会引发巨大风险。人工智能时代的全球治理难点及挑战有哪些？中国的人工智能企业在发展中应关注哪些方面？

“关键人物聚集在一起，本身就是成就”

全球人工智能安全峰会的举办地 “布莱奇利庄园”是位于伦敦以北55英里的一处庄园。第二次世界大战期间，被称为“计算机科学之父”“人工智能之父”的英国人艾伦·图灵在庄园中参与了密码破译，开创了计算机科学和人工智能的基本理论。英国将峰会选址于此，折射出不少深意。

此次出席峰会的代表来自欧盟和全球28个国家。包括英国首相苏纳克、联合国秘书长古特雷斯、欧盟委员会主席冯德莱恩、意大利总理梅洛尼、美国副总统哈里斯、中国科技部副部长吴朝晖，以及来自微软、OpenAI、特斯拉、谷歌等多家企业的高管悉数到场。英国科学、创新和技术大臣米歇尔·多尼兰表示，如此之多的关键人物聚在一起，本身就是一项成就。

中国科学院自动化研究所研究员、人工智能伦理与治理中心主任、国家新一代人工智能治理专委会委员曾毅受邀参与了人工智能安全峰会，并见证了《宣言》的签署。他告诉《环球时报》记者，人工智能安全峰会的未来还有空间做得更好。“正如我在圆桌研讨会内容总结时所说的，如果明年的会议能够有40个，甚至是更多国家受邀参加，那一定是更圆满的。真正包容性的国际合作，一定要更有勇气地倾听更多不同的声音，更有胸怀接受差异，更有智慧交流互鉴。”根据外媒消息，第二届人工智能安全峰会将在韩国举行，之后是法国。

“机器人永远不是人类”

《宣言》签署的背景是世界各国科技企业在ChatGPT推出之后，不断研发推出大模型产品的“竞赛式的激烈竞争状态”。以中国为例，近期包括蚂蚁集团、网易有道、学而思、昆仑万维和知乎等在内的多家公司公开宣布旗下大模型已通过备案，正式开放。这是继9月中国第一批大模型获得备案以来，第二批正式向公众开放的大模型产品。据国内媒体梳理统计，通过《生成式人工智能服务管理暂行办法》备案的公司已有至少17家。

与快速发展并行的风险来自何处？《宣言》中将其定义为对于前沿人工智能技术“有意识滥用”和“无意识控制”。“比如在国外有的网站上，有的生成式人工智能模型已经被用于生成恶意代码，协助复杂的创作，以及更有欺骗性和恶意的电子邮件入侵活动，上述行为构成‘有意识的滥用’。而由于大量训练数据本身可能存在瑕疵或问题，因此其就可能生成一些全新的错误的东西，但同时使人们又可能对其很相信，产生的‘人工智能幻觉’，则属于‘无意识控制’。”中国社会科学院法学研究所教授姚佳告诉《环球时报》记者，人工智能在开发阶段首先就应追求价值对齐。研发人员需要在模型层面坚持使人工智能理解、遵从人类价值、偏好、伦理等原则，防止歧视、欺骗等有害输出以及滥用行为。

在上述可能的风险下，人工智能在快速发展中是否会产生“智能叛变”，有意或无意识地伤害到人类？据韩联社8日报道，韩国一名工人在生产线上惨遭工业机器人误杀，原因是该工业机器人没能将这名工人与生产线上正在处理的农产品箱子区分开。对此上海人工智能专家咨询委员会委员、达闼机器人创始人、董事长黄晓庆告诉《环球时报》记者，来自AI的“智慧”赋能于人形机器人后，机器人会变得更聪明。但无论何种情况下，开发者首先应确保“机器人在任何情况下都不能出现伤害人类的操作”。对此，黄晓庆称人类应开发建立有效的防火墙机制，“无论是采取特别的指令，还是借助云端控制系统，开发者应该牢记，伦理层面，机器人永远不是人类，保护人类才是核心出发点。”

“联合国这个平台才最为合适”

《布莱奇利宣言》中提出，世界范围内“共同关注的人工智能安全风险”，各国可能会制定基于风险的政策，细化风险等级以及治理方式，从而加强安全、促进发展。姚佳告诉记者，我国在人工智能领域的立法进程已走在世界前列。“近年来陆续颁布实施的管理办法、规定，以及规范和倡议总体上已较为充分。国家正在坚持发展与安全并重、促进创新和依法治理相结合的原则，鼓励人工智能创新发展，并进行有效引导、科学治理。”今年6月，《国务院2023年度立法工作计划》明确将《人工智能法》纳入计划，届时将更好地推动技术发展与风险规制双重目标的实现。

放眼全球协调，国际社会对人工智能技术的治理是否已经形成合力？对外经济贸易大学国际关系学院学者梁怀新告诉《环球时报》记者，总体而言，国际社会对人工智能技术滥用的治理，尚处于“倡议形成期”，国际共识与治理合力不断形成，但具有国际法约束力、并被各方均认可的治理规章尚需不断完善，特别是亟需针对人工智能技术算法黑箱、相关平台被西方国家控制或“捕获”、人工智能技术产业化过程中的利益分配等问题进行具体的规制。

值得一提的是，今年10月“一带一路”国际合作高峰论坛期间，中国发布《全球人工智能治理倡议》，并在其中提出“积极支持在联合国框架下讨论成立国际人工智能治理机构，协调国际人工智能发展、安全与治理重大问题”。

“尽管本届人工智能安全峰会并不是一次只有西方的会议。但更为深刻、广泛、最具包容性和全面意义的全球人工智能治理确实只有联合国这个平台才最为合适。”曾毅告诉记者。