AI毁灭论者在英国人工智能峰会上占据中心舞台 - 彭博社

参加11月1日在布莱切利公园举行的AI安全峰会的与会者。

摄影师：Leon Neal/Getty Images 

围绕人工智能所谓的存在风险应该如何集中精力展开了激烈的辩论，这一争论定义了英国AI安全峰会周三的开幕，突显了科技界在立法者提出监管和保障措施时存在的更广泛的紧张关系。

出席布莱切利公园峰会的科技领袖和学者们，对于是优先考虑AI带来的即时风险 —— 比如助长歧视和错误信息 —— 还是担心它可能导致人类文明的终结存在分歧。

一些与会者公开担心所谓的AI末日论者会主导会议 —— 这种担忧加剧了埃隆·马斯克在播客中提到AI可能导致“人类灭绝”的幽灵后不久将与英国首相里希·苏纳克一同出现的消息。周三，英国政府还公布了布莱切利宣言，28个国家签署的一份声明，警告AI可能造成“灾难性危害”。

埃隆·马斯克在11月1日在布莱切利公园举行的2023年AI安全峰会上。摄影师：克里斯·J·拉特克利夫/彭博社“我希望它不会被悲观主义者、X-风险、‘终结者’情景的讨论所主导，我肯定会把对话引向实际、近期的危害，” AI 公司 Cohere Inc. 的联合创始人兼首席执行官 Aidan Gomez 在峰会前表示。

顶级科技高管们在这一周就这个问题展开了激烈的辩论。Meta Platforms Inc. 的首席人工智能科学家杨·勒库恩指责竞争对手，包括 DeepMind 的联合创始人 Demis Hassabis，在试图“实现对该行业的监管控制”时夸大了技术的存在风险。随后，Hassabis 在周三接受彭博社采访时进行了反击，称这些批评是荒谬的。

在峰会的边缘，英国国家网络安全中心前负责人西亚兰·马丁表示，关于人工智能存在潜在灾难性观点和将其视为一系列个别、有时严重的问题需要加以管理的观点之间存在“真正的辩论”。

马丁表示：“虽然这场辩论的潜在含义贯穿所有讨论，但我认为几乎所有人都认同国际、公共和私人社区都需要做到两者兼顾。这是一个程度的问题。”

在峰会的闭门会议中，讨论了是否暂停发展下一代“前沿”人工智能模型以及这种技术可能对“民主、人权、公民权利、公平和平等”构成的“存在威胁”，根据英国政府周三晚间发布的摘要。

在研讨会之间，马斯克被“围攻”并与来自科技公司和公民社会的代表“举行庭审”，一位外交官表示。但是在一场关于失去对人工智能控制风险的讨论中，另一位与会者表示，他静静地听着，据称这场研讨会被称为“死亡之组”。

马特·克利福德是英国首相代表之一，他帮助组织了这次峰会，试图化解分歧，并建议AI风险并非二元对立。

“这次峰会并不专注于长期风险；这次峰会专注于明年的模型，”他周三告诉记者。“我们如何应对潜在的灾难性风险 — 正如在Bletchley宣言中所说的 — 来自那些模型？”他说。“‘短期，长期’的区别往往被夸大了。”

在峰会第一天结束时，两派之间出现了一些和解的迹象。麻省理工学院的教授马克斯·泰格马克曾呼吁暂停强大人工智能系统的发展，他表示“这场辩论开始消融了。”

“那些担心存在风险、失去控制等问题的人意识到，为了解决这些问题，他们必须支持那些警告即将发生的危害的人，”他说，“让他们成为盟友，开始制定安全标准。”