《怪医黑杰克会如何处理人工智能？》 - 彭博社

彼得·塞勒斯在斯坦利·库布里克1964年的电影《奇爱博士》中饰演奇爱博士。

摄影师：银幕收藏/电影影像上周我为了参加一场关于人工智能的非公开讲座， traveled了一段距离，这场讲座由西方最重要的情报机构之一的负责人主讲。像许多人一样，即使是那些熟悉国防和安全领域的人，我对人工智能和将影响每个人生活的革命几乎一无所知。

这次旅行证明不值得花费汽油。我们的智库听众听到的是半小时的陈词滥调，讲述人工智能将会多么重要；需要明智地监管和使用它。然而，我们的演讲者并没有费心解释人工智能将会做什么，除了显而易见的自主思考。我在离开时想知道，他们是否真的知道这一切是怎么回事。

彭博社观点捷豹的新广告是它需要冒的风险女子曲棍球正在冒着早期成功的风险对鲸鱼的威胁远比风车要大得多菲律宾政治常常疯狂。它刚刚变得更加疯狂我以这个小插曲开始，以便如果你和我一样感到无知，你应该感到安心，因为你并不孤单；然而我们所有人都能理解，人工智能将在商业、政府和军事等各类决策中发挥关键作用。在战场上，几乎所有未来的武器系统都将具备人工智能能力，例如同步无人机群并以字面上的超人速度响应来袭导弹。人们担心，当人工智能向指挥官建议最佳方案时，它将促进升级。

一些智者在他们的预测中走得更远。亨利·基辛格在一本由科技老将埃里克·施密特和克雷格·蒙迪共同完成的新书中，从坟墓中写道，“免受恐惧和偏爱的影响，人工智能引入了战略决策中客观性的新的可能性。”基辛格和他的同事们认为，机器可能比俄罗斯总统弗拉基米尔·普京等人类侵略者更理性，因此表现得更好。

我们大多数人则更加谨慎，甚至感到紧张。如果我们不信任中国国家主席习近平和美国当选总统唐纳德·特朗普在和平或战争问题上做出明智的决定，那么我们对机器拥有取代他们判断能力的想法感到更加震惊。卡内基国际和平基金会的史蒂文·费尔德斯坦表示，人工智能“正在帮助引发一个新的地缘政治时代”，这“将不可避免地影响民主和治理的运作。”

聊天机器人的日益强大将使恶意工程师能够通过将大量宣传作为事实传播，极大地影响政治舆论的形成，进一步毒化公共话语，这种情况已经通过许多右翼媒体在社交媒体上实现。

考虑到我们每天都看到航空公司计算机系统故障和政府数据库被黑客攻击，想象一个系统故障可能发射核导弹的未来似乎令人恐惧。我们根本不信任那些“专家”，他们试图安慰我们，人工智能不会被赋予这样的权力。

我们中的许多人都看过斯坦利·库布里克1964年出色的讽刺电影奇爱博士，在这部电影中，一位疯狂的美国将军对苏联发起战略轰炸机攻击，结果美国总统发现俄罗斯人创造了一台末日机器，在美国攻击的情况下，它将自动释放大量核武器。其余的就是未来，正如他们所说。

六十年过去了，我们不得不依赖，正如人类过去所做的那样，地球的居民保持足够的自我保护意识，以至于他们不会建立能够摧毁我们所有人的自主权力系统。然而，似乎合理地担心，习近平、普京、特朗普和金正恩自己对这项技术的细微之处的理解并不比我和你更好。

我从不忘记这个故事——这是一个记录在案的事实，而非传说——温斯顿·丘吉尔在1941年8月被他的首席科学顾问接触，并被要求授权进行核裂变的调查，最终的目标是制造一颗炸弹。这是后来通过美国的财富和权力，通过曼哈顿计划带来的可怕收获的种子。

丘吉尔回应说，他认为没有必要制造更强大的武器，因为现有的毁灭手段似乎已经足够：“就个人而言，我对现有的炸药非常满意。”然而，由于科学家们如此热衷，他并没有反对授权他们的研究。我的观点是，作为一个1874年出生的维多利亚人，丘吉尔无法理解核裂变的时代意义，实际上只有在1945年美国轰炸广岛和长崎之后才真正理解。

我自己的父亲在1945年12月我出生后的几天写了一封信给我，他在我21岁时把这封信呈给我，预见到我的一代人将终其一生受到“炸弹”幽灵的困扰。实际上，过去79年我们是多么愉快地度过，虽然被许多事情所惊吓，但只有在1962年古巴导弹危机期间，才真正因洲际核战争的前景而感到恐惧。

今天，我们知道这一点：人工智能将在世界事务中证明是一个与原子弹的创造一样关键的游戏改变者。《基辛格书》的作者，*《起源：人工智能、希望与人类精神》，*在乐观的间歇中承认：“如果人工智能作为一个几乎独立的政治、外交和军事实体出现，这将迫使我们用一种新的、未知的失衡来取代古老的权力平衡……这样的……秩序可能会见证社会的内部崩溃和外部冲突的失控爆发。”

人工智能的先知们预见到，战争将不再是由人类操控的对抗军队、海军或空军之间的竞争，而是 rival 机器系统之间的斗争。勇气，或缺乏勇气，将不再是一个因素。重要的技能将不再是顶尖飞行员的技能，而是软件工程师的技能，他们在敌对行动开始之前很久就编程出进行战斗的技术。

乌克兰战争显示了导弹和无人机——无人驾驶飞行器——如今在战场上占据了多么重要的地位。如果我负责任何国家的武器采购，我会拒绝为任何需要机组人员的新型战斗机提供资金，因为这些战斗机在2040年之前不会投入使用。

我记得20年前在喀布尔外的一个机库里，当我第一次看到一位前B-52飞行员驾驶无人机时，我感到惊讶。我当时就意识到，现在也知道，我正在瞥见未来。

至少曼哈顿计划是由真实的人来执行的，即使其中一些人像罗伯特·奥本海默一样有缺陷。我们似乎有理由对机器主导我们未来的武装冲突感到恐惧，更不用说驱动市场制造者和对冲基金经理的操作。费尔德斯坦观察到，“意外使用武力和潜在升级的前景是严峻的。”但人工智能正在到来。我们的敌人正在拼命地为自己谋取优势。我们别无选择，只能跟上，这正是曼哈顿计划的科学家们在三年的艰苦劳动中相互告诫的，目的是制造出原子弹。

我们必须在这样一个事实中寻求安慰：我们已经度过了核时代的前八十年，而我们的许多父母相信这将是我们的终结。也许我们的孩子们会在人工智能时代中摸索前行，这个时代就像原子弹一样，永远无法被忽视。

来自彭博社观点的更多内容：

• 让我们都 冷静下来 关于人工智能的“灭绝风险”：Parmy Olson
• 乌克兰战争可能成为 人工智能的试验场：James Stavridis
• 中国如何 提升 其科技行业：Catherine Thorbecke

​​​​​想要更多彭博社观点？ OPIN <GO>****。或者您可以订阅 我们的每日通讯