在“项目马文”内部，美国军方的旗舰人工智能项目：Big Take播客 - 彭博社

美联储从现实世界中获取新数据输入，Project Maven的人工智能算法识别出兴趣点，操作员可以验证或拒绝。在Maven智能系统界面上，指挥官可以一览整个战场。例如，黄色轮廓框显示潜在目标，蓝色轮廓框表示友军部队或禁止打击区域，如学校或医院。

插图：Chris Philpot

收听Big Take DC播客： iHeart， Apple Podcasts， Spotify和彭博终端。

收听 • 20分钟41秒

美国军方神秘的人工智能项目内幕（播客）

在今天的节目中，美国军方神秘的项目旨在将现代人工智能引入战场 — 由负责该项目的国防官员讲述，他的工作如此神秘，以至于他甚至不能告诉他的妻子。彭博的Katrina Manson带领主持人Saleha Mohsin走进幕后，以非机密的方式了解Project Maven。

每周收听Big Take DC播客。

终端客户端：在桌面上运行{NSUB BIGTAKEPOD <GO>}进行订阅

这是对谈话的轻微编辑转录：

**威尔·罗珀：**很长一段时间，我有一个没有被承认的工作。我的妻子除了有薪水进账外，不知道我是做什么的。

**萨莱哈·莫辛：**这是威尔·罗珀。回到2010年代中期，他负责美国国防部内一个当时秘密的办公室，名为战略能力办公室。

**罗珀：**这意味着开发新系统和新战略。构建未来的战争。

**莫辛：**罗珀对大科技公司如何利用人工智能扫描照片并识别物体以及它对美国军方的潜在作用感到着迷。

**罗珀：**工业界试图做的很多事情——能够识别建筑物、道路和物体——似乎与战场类比非常明显。

**莫辛：**罗珀将提出后来成为军方强大人工智能技术的项目Maven。

但是建造Maven并将其带到战场的旅程并不容易。关于美国军方是否应该在战争中使用算法仍然存在重大问题。

**卡特琳娜·曼森：**他们使用这种说法，总会有人在其中。但同时，使用人工智能的整个目的是加速。人们谈论的决策速度如此之快，以至于比人类跟不上。

**莫辛：**那是彭博记者卡特琳娜·曼森。今天在节目中：她带我们走进了美国军方人工智能的承诺和危险。我们深入了解了五角大楼的旗舰人工智能项目“梅文计划”。

您还将听到负责“梅文计划”大部分工作的美国情报官员，以及美国中央司令部（CENTCOM）的首席技术官，他们的部队实际上正在战斗中使用这项技术。

来自彭博华盛顿分社，这里是《大事记DC》播客。我是萨莱哈·莫辛。

我的同事卡特琳娜·曼森负责报道网络安全和新兴技术，重点关注国家安全。在过去几年里，她一直听说人工智能可能是自无线电或机关枪发明以来改变战争的最重要的事情。

但她说，美国军方将人工智能引入战场的大力举措真正开始于2017年的“梅文计划”。

**曼森：**国防部现在喜欢说他们已经使用人工智能60年了。但真正重要的是那个宣布，说我们想研究人工智能、机器学习算法，我们想找到战场应用。

正如提出这个想法的人之一威尔·罗珀所说，他一直认为这是一种找到更好的自动目标识别方法的途径。

**莫辛：**自动目标识别。在这种情况下：扫描卫星图像和其他数据输入，以识别战场上的潜在威胁和敌人位置。确保美国不会误将非威胁目标误认为目标，最终导致将武器部署到医院而不是武器工厂。

直到这一点，军方一直依赖人们来查看数小时的视频镜头和卫星图像，以识别这些目标。但罗珀认为：计算机可以更快地做到这一点，甚至可能做得更好。

**罗珀：**在一场真正的战斗中，有很多东西需要看和观察，要试图找出你需要用武器打击的少数目标。很明显，处理速度已经变得非常快。而且有很多数据可用，你可以构建这些非常深的神经网络。

**莫辛：**但是在2017年，美国军方对深度神经网络并不熟悉… 而且肯定无法构建它们。

**罗珀：**当物联网发生在其他人身上时，美国军方并没有经历过。美国军方拥有令人惊叹的硬件，但它们之间的连接性并不强。因此，军事人员离开了他们几乎与一切相连的生活，进入了几乎与一切都不相连的军事生活。我认为大多数人期望的是飞机和船只像我们的智能设备一样连接，但实际上并不是这样。

**莫辛：**因此，罗珀提议军方进行一次重大推动… 专注于自动目标识别。但当他与高级国防官员一起讨论他的想法，这个想法最终成为“鸽子工程”的时候，他并没有得到他想要的回应。

罗珀：[笑] 嗯，怀疑论者几乎充斥着五角大楼的大厅。这不是一个充满创造力和创新的地方。

我记得仍然需要准备一个关于为什么这个方法可行、为什么这是商业行业的一个大趋势以及为什么我们需要站在趋势的正确一边的教程演示。

**莫辛：**像任何政府官僚机构一样，五角大楼有很多繁文缛节。它的方法与硅谷的“快速行动，打破陈规”的心态完全不同。这在某种程度上是有充分理由的——当涉及到美国政府决定支持的任何事情时，尤其是涉及到战争时，风险是非常高的。

但是，一些五角大楼官员确实冒险尝试了罗珀的想法。2017年4月，国防部宣布了“Maven计划”：一种利用人工智能和数据进行“可操作情报”的方式。

这意味着开发机器学习算法，然后不断用最新的、标记良好的数据对这些算法进行重新训练。但是，罗珀所面对的所有过时的军事技术使这变得困难。我的同事卡特琳娜曾与Maven早期测试和评估工作的专家之一交谈过——

**曼森：**她说那真的，嗯，一点也不好。

他们没有标记数据。当我们在线点击并说，“是的，这是一个交通灯。是的，这是一只猫。”时，没有关于坦克或武器工厂的同样的图像库。

**莫辛：**因此，罗珀和他的团队让人们浏览图像并手动标记它们。

Roper: 有成千上万的人参与标记数据，以便我们能够训练算法。

Mohsin: 他们还需要一些专业知识——为了开发这个项目，五角大楼与一些商业科技公司合作，这些公司在人工智能方面遥遥领先于军方。

但是在2018年，这变成了一个问题。

Manson: 谷歌在“鸽子计划”早期参与其中。2018年，成千上万的谷歌员工进行了抗议。

关键问题是，仅仅将识别猫的能力应用到坦克上，那些员工会感到多少道德上的责任？因为接下来可能发生的是，坦克可能会爆炸，如果出现错误，可能会导致人员伤亡。或者目标最终可能涉及到有人类或平民的地方。

在一封写给他们上级的信中说，我们不想参与战争技术的开发。

Mohsin: 这使“鸽子计划”成为众人瞩目的焦点—成为新闻头条。

Fox: 引用：我们认为谷歌不应该涉足战争事务。因此，我们要求取消“鸽子计划”，并要求谷歌制定明确政策，规定谷歌及其承包商永远不会开发战争技术。

Mohsin: 抗议活动是否让军方内部的人产生了犹豫？

Manson: 我认为是的。我认为军方也意识到他们确实必须面对，我们到底要求大科技公司做什么？这些人并不是以这种方式来为国旗服务的。任务完全不同。文化也不同。当时，高级国防官员飞到西海岸去了解这种完全不同的文化。从那时起，“鸽子计划”的负责人不得不转变方向，寻找其他合作伙伴。除了谷歌之外，已经有其他合作伙伴。但我认为五角大楼经历了一次与硅谷的新一轮接触。

**莫辛：**在其他技术合作伙伴的帮助下，以及成千上万的工人标记数据，Maven项目背后的算法变得越来越准确。

到2020年，一位名叫Joseph O’Callaghan的陆军上校，负责武器射击，开始对Maven产生兴趣。

他被要求在他所在的部队，北卡罗来纳州的第18空降军团进行实验。他进行了实弹演习，使用计算机算法识别目标，比如一辆坦克，然后让人类部署武器击中目标。

测试技术是过程中至关重要的一部分。机器学习的整个重点在于反馈——尝试一个算法，然后告诉它什么时候是对的或错误的，这样它就可以学习并在下一次做得更好。

但只是因为老板希望他的员工开始使用一个闪亮的新工具，并不意味着每个人都会听命于此——卡特琳娜告诉我一个名叫乔伊·坦普尔的军官。

**曼森：**一个非常经验丰富的，从伊拉克服役了五轮的瞄准官，他被提供了一个所谓的Maven智能系统的演示。

**莫辛：**承载Maven和其他数据流的平台—

**曼森：**他说，‘不，我不，我不想要演示。我不想要演示。’他告诉我，他有一种感觉，这种东西不起作用。他不需要另一个工具。他对听到这么多关于人工智能的事感到困惑，因为他以前从未接触过人工智能，而他是一个专家瞄准手。他的整个职业生涯都在做这个。

**莫辛：**最初，坦普尔并不感兴趣。但在2021年8月，下个月，某件事改变了他的想法。

接下来 - 项目“梅文”是如何赢得像乔伊·坦普尔这样经验丰富的士兵的支持，以及如何在今天的实际战场上使用的。

一开始，高级瞄准官乔伊·坦普尔对使用项目“梅文”并不感兴趣，但这在2021年8月发生了改变。

*彭博监控：*美军在喀布尔机场努力撤离美国人和阿富汗平民，场面混乱—

**莫辛：**这是美军从阿富汗撤离的行动。军方不得不在非常危险的条件下空运12万人离开喀布尔。

坦普尔被放在一个“梅文”屏幕前，实时绘制出地面上的威胁。

**曼森：**他可以看到人们在四处走动。飞机的航线。对他来说，看到“梅文”智能系统那样运行是一个点亮灯泡的时刻。

**莫辛：**负责“梅文”的人依赖于这些点亮灯泡的时刻。军方需要愿意使用“梅文”来训练其算法以提高性能的军官。并将其与数据和传感器连接起来…并实际使其在军方运作战斗的方式中运行。否则，它基本上是无用的。

**曼森：**你确实会遇到像乔伊·坦普尔那样的经历，起初对此持怀疑态度。他甚至告诉我，他手下有人说，“不，我不想使用这个。”我的意思是，他自称是怀疑论者。他经常会担任魔鬼的辩护人，因为对他来说，重要的是要知道，这个系统真的可靠吗？

这就是我觉得很有趣的地方。你开始整合军事人员喜欢称之为人机协作的东西。从地面人员的角度来看，这实际上是什么样的？谁被告知这里有一个新奇的玩具。使用这个。这些人与他们的战友有着非常深厚的关系，他们一起参加战争，他们信任对方。这是美国战争，任何战争的一个非常基本的概念。如果你必须信任一个算法呢？

**莫辛：**军方现在要求第18空降军团的士兵相信那个算法——至少在他们的基地上进行实验。这现在是Maven最大的操作测试平台。

去年，卡特琳娜飞到了北卡罗来纳的基地亲眼看到了它的运作。

**曼森：**最后我终于被给予了一个非机密的演示，看到了它真的很有启发，因为它并不完全是我所期待的。

他们为我做了一个使用非机密卫星图像的模拟。但它代表了美国几个月前进行的一次真实行动。

这很像在手机上看地图。只不过这里有黄色框和蓝色框，蓝色框表示，不要打击这里。这不是目标。我们已经确认这是一所学校或医院或友军。

而黄色框表示他们所谓的感兴趣点。所以在这种情况下，如果你要求算法找到船只，它会给所有的船只加框，然后你可能会要求它找到特定类型的船只，也许是一艘军舰，他们可以使用大量不同的数据源进行叠加。

**莫辛：**不仅仅是最初Maven训练的卫星照片和视频。现在，该程序还整合并分析了更多数据。

卡特琳娜从马克·蒙塞尔那里听说了这一点。他是国家地理空间情报局的数据和数字创新主任，自去年以来一直主导着Maven的大部分工作。该机构一直与部队密切合作，在实地测试、应用和改进Maven。

**马克·蒙塞尔：**我们还使用射向物体的无线电波，我们还使用红外线，来看热量、光线，我们还使用多光谱遥感。所以不仅仅是可见光谱，还有不可见光谱。

**莫辛：**蒙塞尔告诉她，他认为使用Maven进行军事定位有两个重要优势。

**蒙塞尔：**速度非常重要。对吧？显然，我们拍摄图像的速度越快，运行算法并获得结果的速度就越重要。但是，我要说，最大的优势是规模。我们可以在许多图像上进行操作，尽快完成，这真的是我们提供优势的地方。

**莫辛：**这个优势不仅仅是在测试中证明的，而是在实际战场上证明的：

**斯凯勒·摩尔：**10月7日一切都改变了。

**莫辛：**这就是斯凯勒·摩尔，美国中央司令部的首席技术官，通常被称为CENTCOM。卡特琳娜本月早些时候设法与她通了电话。

**穆尔：**我们立即加快了步伐，比以前的运营节奏高得多。我认为我们之所以能够并且在使用Maven时转变得相当顺利，是因为在那之前我们进行了大约12个月的数字化演习。

**莫辛：**穆尔告诉卡特琳娜，美国也使用Maven来确定并缩小了数十个目标，然后美国的空袭就对伊拉克和叙利亚进行了打击。

**曼森：**对我来说，这是我第一次真正听到有人谈论使用人工智能来找到目标，然后向其投放属于敌人的武器，造成了破坏，有人伤亡，所以这个循环真的正在被实施。

**穆尔：**在过去的60到90天里，我们确实有更多的目标机会。我们有很多关于胡塞武装提出这类威胁的例子。

**曼森：**他们在也门找到了火箭发射器，在红海找到了船只。Maven已经成为决策周期中的一个固有部分，以试图找出威胁在哪里？我们想采取什么行动？我们如何确保？

**莫辛：**这项技术正在被使用，但尚未完善。

尽管第18空降军团的人类可以正确识别坦克的准确率约为84% —— Maven可以将其提高到接近60%。专家告诉卡特琳娜，当图像中有雪或云层覆盖，或者正在搜索新类型的物体时，这个数字甚至可能降至更低，低至30%。

**曼森：**许多美国军事形象来自中东。当你转移到像乌克兰这样的地方时。那里有雪。有云层。有雨。因此条件变化很大，算法的表现就会大大降低。

**莫辛：**这些挑战是批评者在表达对美国军方使用这项技术时所关注的问题之一。另一个经常被提及的重要问题是反对在战场上使用可以使用人工智能的自主机器。

有一个由人权和专家组成的联盟，名为“停止杀手机器人”，致力于阻止可以使用人工智能的致命自主机器进入战争。甚至联合国秘书长安东尼奥·古特雷斯也呼吁禁止自主武器系统。

这里再次是卡特琳娜：

**曼森：**一个算法本身可以使用不正确或不完整的数据进行训练。它也可能成为对手攻击的目标。数据可能在不知情的情况下被更改。算法可能被欺骗。它可能被毒害。随着时间的推移，准确性可能会下降。这对于一个算法来说是非常自然的事情。它停止变得有效。因此，你必须确定在什么时候你想要改变、重新训练、与该算法合作。当然，当你面临生死攸关的情况时，你在决定应该对这个算法放多少信任，我们应该怎么做？如果使用一个会犯错的算法是可行的，比如它只是要炸毁水，你知道，它试图炸毁一艘船，但最终只炸到了水，那没什么大不了的。但如果你试图炸毁陆地上的目标，如果你错过了，你就会伤及平民或任何人类，当然，风险是极高的。

**莫辛：**美国军方表示，这就是为什么他们依赖人机协作。他们说，算法本身永远不会决定执行空袭。它只是为人类指挥官确定目标。

但梅文正在加快这些决策——以及与武器的联系。

**曼塞尔：**我们希望缩短那个杀伤链，你知道，尽快缩短。

**莫辛：**马克·曼塞尔再次—他是监督运行梅文办公室的机构官员。

**曼塞尔：**所以，不再需要人类打开图像，扫描图像，找到图像上的所有内容，然后向作战指挥官报告，我们希望通过使用算法来缩短这个过程。

**曼森：**所以作战指挥官可以选择要开火的目标。

**曼塞尔：**而且速度更快。

**莫辛：**但正如卡特琳娜指出的，加快识别目标并开火的速度可能会很复杂。

**曼森：**当然，对算法中的确认偏见进行了大量研究。我认为你必须思考，如果算法说这是我们应该将其视为目标的东西，那么在那里负责对算法说“是”或“不是”的人更可能说“是”还是更可能说“不是”？

**莫辛：**美国军方期望这种技术能够改进。但与此同时，他们继续使用它—而且世界上其他国家，如以色列和乌克兰，也在使用类似的技术。这引发了一个问题：世界是否准备好迎接这可能意味着什么？

Roper: 美国军方还没有准备好进行算法战争、软件战争。

Mohsin: 跟上发展是Will Roper最初希望将人工智能引入美国军方的原因。

Roper: 美国军方一直拥有人类优势，因为我们一直在运作，我们的人员经验丰富、训练有素，随时准备就绪。我们一直能够说，如果我们对某种情景感到有些紧张，我们有准备就绪的人员。然而，使用人工智能可能是第一种可以削弱人类优势的技术。

Mohsin: 五角大楼和政府的人担心，担心与中国等国发生战争会让美国陷入被动。

但战争并不会等待软件更新。2022年，美国通过Maven帮助乌克兰，共享俄罗斯装备位置的所谓兴趣点。

有一个数据让我印象深刻：在这个过程中，Maven智能系统平台在前10个月内经历了50多轮改进。

Roper认为，军方内部的人员将需要改变他们对算法的看法——因为不管喜欢与否，目前已经没有退路了。

Roper: 军方将不得不将人工智能看作不仅仅是一种计算机软件，而几乎像是军队的一员，你训练它，信任它，根据它的训练和血统给予一定程度的权威。希望这些教训在需要之前就能被吸取。

Mohsin: 感谢您收听彭博新闻的Big Take DC播客。我是Saleha Mohsin。

这一集由Julia Press和Naomi Shavin制作。由Alex Sugiura进行事实核查。特别感谢Katrina Manson，Margaret Sutherlin，Vicky Vergolina和Rebecca Chaisson。

Ben O’Brien是我们的混音工程师。我们的故事编辑是Caitlin Kenney，Wendy Benjaminson和Michael Shepard。Nicole Beemsterboer是我们的执行制片人。Sage Bauman是我们的播客主管。如果您喜欢听到的内容，请订阅，评分和评论节目—这有助于其他听众找到我们。

感谢您的收听。下周我会回来。