AI杀手机器人军备竞赛：工业面临“奥本海默时刻” - 彭博社

乌克兰士兵在巴赫穆特附近的无人机部队指挥中心工作。

摄影师：保拉·布朗斯坦/盖蒂图片社监管机构警告政府，想要控制新一代人工智能杀戮机器可能已经没有太多时间了。

随着自主武器系统迅速扩散，包括在乌克兰和加沙等战场上，算法和无人机已经帮助军事规划人员决定是否打击目标。很快，这个决定可能完全外包给机器。

“这是我们这一代的奥本海默时刻，”奥地利外交部长亚历山大·沙伦贝格说，他提到了1945年帮助发明原子弹的J·罗伯特·奥本海默，后来他主张控制核武器扩散。

来自100多个国家的民间、军事和技术官员周一在维也纳会面，讨论他们的经济如何控制人工智能与军事技术的融合——这两个领域最近吸引了投资者的关注，推动股票估值创下历史新高。

全球冲突的蔓延加上公司推广人工智能的财务激励，增加了控制杀人机器的挑战，这是早期投资者Alphabet Inc.旗下AI平台DeepMind Technologies的亚恩·塔林所指出的。

“硅谷的激励可能与人类的其他部分不一致，” Tallinn 说。

世界各国政府已经采取措施与将人工智能工具整合到国防中的公司合作。五角大楼正在向AI 初创公司注入数百万美元。欧盟上周支付了Thales SA来创建一个图像数据库，以帮助评估战场目标。

总部位于特拉维夫的 +972 Magazine 本月报道说，以色列正在使用一个名为“Lavender”的人工智能程序来确定暗杀目标。这份以色列对此进行了争辩的报告称，该 AI 系统在“对巴勒斯坦人进行前所未有的轰炸”中发挥了“核心作用”。

“屠杀机器人的未来已经来临，”物理学家 Anthony Aguirre 说，他在一部被超过 160 万观众观看的2017 年短片中预测了这项技术的发展轨迹。“我们需要由联合国大会谈判的军备控制条约。”

但是，至少在短期内，主张外交解决方案的人可能会感到沮丧，根据本周会议的策划者、奥地利最高裁军官 Alexander Kmentt 的说法。

“对军备控制的经典方法行不通，因为我们讨论的不是单一武器系统，而是一系列双用技术，”Kmentt在一次采访中说。

Kmentt 暗示，与其达成新的“杰作”条约，各国可能被迫通过已经掌握的法律工具来应对。他说，执行出口控制和人道主义法律可以帮助控制人工智能武器系统的传播。

在较长期内，当技术变得可供非国家行为者和潜在的恐怖分子使用时，预计哥斯达黎加外交部长Arnoldo André Tinoco预测各国将被迫制定新规则。

“自主武器的易得性消除了确保只有少数人可以参与军备竞赛的限制，”他说。“现在，只要有一个3D打印机和基本的编程知识，学生就可以制造具有造成大规模伤亡能力的无人机。自主武器系统永远改变了国际稳定的概念。”

埃隆·马斯克（Elon Musk）对中国的快速访问立即见效，特斯拉公司获得了政府官员的初步批准，在全球最大的汽车市场部署其驾驶辅助系统。

据了解此事的知情人士透露，美国汽车制造商在某些条件下获得了批准，但由于所有标准的细节尚不清楚，该知情人士要求匿名。特斯拉成功地克服了两个最重要的障碍：与中国科技巨头百度公司达成了一项地图和导航协议，并且满足了处理数据安全和隐私问题的要求。