英国人工智能安全峰会：英国财政大臣邀请中国 - 彭博社

Mark Bergen

2023-11-01

里希·苏纳克在10月26日在伦敦发表关于人工智能的演讲。

摄影师：Tolga Akmen/EPA英国正在举办首届专注于人工智能安全保障的峰会。但首先…

今日你需要知道的三件事：

• FAA完成了对SpaceX的安全审查• 诺基亚在三大洲起诉亚马逊• 商界领袖告诉参议院小组采取行动处理人工智能

周三，数十位企业大佬、学者和政客在伦敦北部的历史遗址布莱切利园聚会，参加人工智能安全峰会。有一个特别引人注目的受邀者：中国。

当英国政府首次宣布这两天的活动时，中国的参与是一个悬而未决的问题。

英国领导人将这次峰会定位为首次全球聚集讨论最新人工智能的潜力和风险。中国已经发布了最早的监管规定并在该领域大举投资。当然，中国在人工智能方面的进展被美国视为严重的国家安全问题，也是发动贸易战的一个关键原因。

最终，英国发出了邀请。中国政府是官方与会名单上的27个国家之一，还包括阿里巴巴集团和腾讯控股有限公司。“排除中国是幼稚的，”英国科学大臣米歇尔·多兰在上周伦敦的彭博科技峰会上表示。

杰里米·亨特，另一位英国高级官员，对中国的全球角色有了更直接的评价：“他们不会消失。”

西方国家确实担心中国的军事实力。皇家联合服务研究所的分析师皮娅·休施表示，他们担心中国的自上而下、监控密集的人工智能方法可能会传播到更多国家。

但是，她补充说，将中国排除在这样的峰会之外“有可能错失一个关于标准和规则的共同对话的短暂机会。”

英国首相里希·苏纳克强调了“对话”部分，他认为他的峰会不是关于“急于监管”人工智能。通过主持这个峰会，苏纳克试图将英国定位为关键技术的可信领导者，并在脱欧后，作为一个与欧盟不同的国家，后者正在急于监管。

“认为伦敦是一个相当好的地点并不是疯狂的想法，”AI初创公司Faculty的首席执行官马克·沃纳说。“这里有真正的专业知识，而且来自三大集团的中立性。”

但是美国、欧盟和中国不太可能在伦敦达成任何具有里程碑意义的协议。除了苏纳克外，意大利总理是唯一一位将出席的七国集团领导人。埃隆·马斯克应该会在那里，但其他首席执行官几乎都会派代表出席。

政府在峰会上的许多信息传递（和媒体关注）都集中在人工智能可能带来的“灾难性危害”和“存在威胁”上。这导致一些人将这一事件视为迷恋“天网”情节，忽略了更直接的危害。（*《连线》*称其为“一个迷恋末日的混乱。”）

然而，英国确实组建了一个研究工作组，其中有一些令人印象深刻的简历，旨在分析即将推出的人工智能模型。在峰会之前，政府从六家最大的制造大型语言模型的公司那里获得了书面承诺，涉及安全控制、滥用和数据审计等主题。

这六家公司包括OpenAI、谷歌和Meta，在峰会的第二天被安排参加，这是一个规模较小的聚会，与美国副总统卡玛拉·哈里斯和其他政客一起。目前尚不清楚中国公司和官员是否被邀请参加那一天。

中国在第一天的出席是否有成果，在一定程度上取决于与会者是否能暂时放下地缘政治关切，牛津大学研究人员黄思豪表示。他指出，中国规定的一些部分——要求人工智能模型具有可解释性、可以接受评估，且不用于有组织犯罪——与美国、英国和欧洲的提议非常相似。

英国希望该峰会每年举行一次，由不同国家主办。黄思豪和其他人认为，联合国支持的科学家团体气候变化政府间专门委员会为这一事件提供了一个有前途的模板，该团体将地缘政治置于次要位置，为更大的事业服务。

当然，气候变化政府间专门委员会自己也存在政治争执。而其对灾难性危害的真实警告在很大程度上被置若罔闻。

以色列-哈马斯战争的情绪化深度伪造图像在网上广泛传播，展示了生成式人工智能内容如何传播。不过，目前没有证据表明这些图像会影响决策。

芯片制造商AMD在视频游戏主机需求放缓后发布了疲弱的收入预测。

特斯拉股价自10月中旬第三季度业绩公布以来下跌了20%，原因是担忧电动车需求正在减弱。

SolarWinds员工在俄罗斯黑客入侵之前就被警告公司安全措施存在漏洞。