以色列使用人工智能系统规划致命军事行动 - 彭博社

以色列国防军已开始使用人工智能来选择空袭目标并组织战时后勤，随着占领领土和主要竞争对手伊朗之间的紧张局势升级。

尽管军方不会就具体行动发表评论，但官员表示，现在他们使用了一个人工智能推荐系统，可以处理大量数据以选择空袭目标。随后的袭击可以通过另一个名为“火力工厂”的人工智能模型迅速组装，该模型使用有关军方批准的目标的数据来计算弹药负载，优先级和分配成千上万个目标给飞机和无人机，并提出一个时间表。

尽管这两个系统都由人类操作员监督，他们会审查和批准单个目标和空袭计划，但根据以色列国防军官员的说法，这项技术仍未受到任何国际或国家级别的监管。支持者认为，这些先进的算法可能超越人类能力，并有助于军方减少伤亡，而批评者警告称依赖日益自主的系统可能导致潜在的致命后果。

“如果人工智能的计算出现错误，而且人工智能无法解释，那么我们该责怪谁犯了错误？”希伯来大学国际法讲师、前军事法律顾问塔尔·米姆兰说。“你可以因为一个错误而消灭一整个家庭。”

以色列的铁穹防空系统拦截了从加沙市发射的火箭，时间是5月10日。这个已经服役十多年的系统是以色列在战争中早期采用基于人工智能技术的例子。摄影师：Majdi Fathi/NurPhoto/Getty Images军方对人工智能的操作使用细节仍然被列为机密，但军方官员的声明表明，以色列国防军通过加沙地带定期的冲突中获得了有争议系统的战场经验，在那里，以色列经常对火箭袭击进行空袭。2021年，以色列国防军将加沙地带的为期11天的冲突描述为世界上第一场“人工智能战争”，并称其利用人工智能来识别火箭发射架并部署无人机群。 以色列还在叙利亚和黎巴嫩进行袭击，瞄准据称是运往伊朗支持的真主党等民兵组织的武器。

最近几个月，以色列一直在就伊朗的铀浓缩问题发出几乎每日的警告，誓言绝不允许伊朗在任何情况下获得核武器。如果两国陷入军事对抗，以色列国防军预计，伊朗在加沙、叙利亚和黎巴嫩的代理人将进行报复，为以色列自埃及和叙利亚50年前发动的突袭引发了“赎罪日战争”以来的第一次严重多线前线冲突铺平了道路。

以色列国防军官员表示，像Fire Factory这样的基于人工智能的工具是为这种情况量身定制的。“以前需要几个小时的事情现在只需要几分钟，再加上几分钟的人工审查时间，”负责军队数字化转型单位的Uri上校在特拉维夫的以色列国防军总部发表讲话时表示，出于安全原因，只能使用他的名字的第一个字。“在同样数量的人员的情况下，我们做得更多。”

这些官员强调，该系统旨在进行全面战争。

1973年10月，约旦河西岸的以色列炮兵在赎罪日战争期间。摄影师：Jean-Claude Francolon/Gamma-Rapho/Getty Images 扩展情报？

以色列国防军长期以来一直在使用人工智能，但近年来，随着寻求将自己定位为全球自主武器领导者，它已将这些系统扩展到各个单位。其中一些系统是由以色列国防承包商建造的；另一些系统，比如针对成千上万小时录像进行训练以识别人员和物体的StarTrack边境监控摄像头，则是由军队开发的。总体而言，它们构成了一个庞大的数字架构，专门用于解释大量的无人机和闭路电视录像、卫星图像、电子信号、在线通信和其他军事用途的数据。

处理这些信息洪流是由军队的8200部队运行的数据科学和人工智能中心的目的。该中心位于情报部门内，那个部队是许多该国科技百万富翁的所在地，包括Palo Alto Networks Inc.的 Nir Zuk和Check Point Software Technologies Ltd的创始人 Gil Shwed，他们在创立成功的初创公司之前都在那里服过义务兵役。据一位发言人称，该中心负责开发了“改变了以色列国防军整个目标概念的系统”。

这些工具的秘密开发方式引起了严重关注，包括半自主系统和完全自动化杀戮机器之间的鸿沟可能在一夜之间被缩小。在这种情况下，机器将被赋予定位和打击目标的能力，人类完全被从决策位置中移除。

“只需一个软件更改，它们就可以从半自主变为完全自主，”Stop Killer Robots的自动决策研究员凯瑟琳·康诺利说，Stop Killer Robots是一个由包括人权观察和国际特赦组织在内的非政府组织组成的联盟。以色列表示，他们没有计划在未来几年内取消人类监督。

Fire Factory软件来源：以色列国防军另一个担忧是人工智能的快速应用超过了对其内部运作的研究。许多算法是由私营公司和军方开发的，他们不公开专有信息，批评者强调算法如何得出结论的缺乏透明度。以色列国防军承认了这个问题，但表示军方人员会仔细审查输出，其军事人工智能系统会留下技术线索，使人类操作员能够重现它们的步骤。

“有时候，当你引入更复杂的人工智能组件，比如神经网络之类的时候，理解‘它的脑袋里想了什么’，就是用比喻的方式说，是相当复杂的。然后有时候我愿意说我对可追溯性感到满意，而不是可解释性。也就是说，我想要理解对我来说关键的关于这个过程的内容并监控它，即使我不理解每个‘神经元’在做什么，”Uri说。

以色列国防军拒绝谈论面部识别技术，这项技术受到人权组织的强烈批评，尽管它表示已经停止将人工智能整合到招募软件中，因为担心可能会对女性和来自较低社会经济背景的潜在学员进行歧视。

一些专家认为，将人工智能整合到战场系统中的主要优势在于减少平民伤亡。伦敦国际战略研究所的研究员Simona R. Soare表示：“我认为，正确使用这些技术可以带来效率和效果上的好处。在良好的技术参数下，可以实现非常高的精度。它可以帮助你处理许多需要在战斗中迅速应对的事情，而这在最好的时候都很困难。”

她补充说：“当然，也有很多事情可能会出错。”

伦理关切

尽管以色列领导人已经概述了他们要将国家建设成“人工智能超级大国”，但他们对细节保持模糊。国防部拒绝就其在人工智能上的投资金额发表评论，军方也不会讨论具体的国防合同，尽管它确认Fire Factory是由以色列国防承包商Rafael开发的。进一步使局势变得模糊的是，与核武器竞赛时期不同，那时泄露武器能力细节是威慑的关键因素，自主和人工智能辅助系统正在秘密地由政府、军队和私人国防公司开发。

“我们可以假设美国人甚至中国人，甚至可能还有其他几个国家在这些领域也拥有先进系统，”以色列国家安全研究所的高级研究员利兰·安特比说。但与以色列不同，“据我所知，他们从未展示过操作使用和成功。”

目前，没有任何限制。尽管经过了十年的联合国赞助的谈判，但没有建立任何国际框架来确定当计算机误判时，谁对平民伤亡、事故或意外升级负责。

“还有一个问题是测试和这些系统所训练的数据，”来自“停止杀手机器人”联盟的康诺利说。“除非这些系统已经在人身上接受过训练和测试，否则你怎么知道系统会有多精确和准确呢？”

正是出于这些担忧，希伯来大学的法学讲师米姆兰认为以色列国防军应该专门将人工智能用于防御目的。在军队任职期间，米姆兰手动审查目标，以确保袭击符合国际法。这让他明白，无论技术如何，“总有一个你需要基于价值做出决定的时刻。”

“而为此，”他说，“我们不能依赖人工智能。”