曾毅：如果各国外交都用AI博弈……

3月27日，观察者网与中国互联网治理论坛（中国IGF）共同举办了最新一期的科创类谈话节目《心智对话》，主题为“AI与国运：技术跃迁、产业革新背景下的全球治理”。

在对话中，中国科学院自动化研究所研究员、人工智能安全与超级对齐北京市重点实验室主任、联合国人工智能顾问机构专家曾毅提到，统计数据显示，全球人工智能报道出来的风险中，美国占63%，中国将近20%，英国将近10%。

中国科学院自动化研究所研究员、人工智能安全与超级对齐北京市重点实验室主任、联合国人工智能顾问机构专家曾毅 观察者网

曾毅补充道，从技术发展的角度而言，美国是最领先的，因此在风险出现的次数上也是最多的，在人工智能应用方面，美国民众的对于人工智能的反弹和抵触也是最强的。

他举例说，Meta公司有一款名为西塞罗的外交对抗游戏，游戏中的人工智能会先劝说人类玩家和它结盟，在一起战胜其它玩家以后，人工智能的下一个目标就是破坏团队和谐，把盟友逐个击破，最后独自获胜。

“当时大家的第一反应是它和Alphago似的，体现出人工智能又在进展，而且在博弈领域又有了新的应用，”曾毅说道，“但在我看来这已经非常危险，因为如果各国外交都采用人工智能做博弈，在风险的管控能力上我们目前还很弱。”

曾毅表示：“所以我觉得，至少就当时的灾难性风险防御水平而言，不应当在外交博弈的领域采用人工智能。”

本文系观察者网独家稿件，未经授权，不得转载。