Anthropic首席执行官认为，人工智能可能在2026年之前超越大多数人类 - 彭博社

Shirin Ghaffary

2024-10-19

达里奥·阿莫代伊，Anthropic的联合创始人兼首席执行官。

摄影师：本杰明·吉雷特/彭博社Anthropic首席执行官达里奥·阿莫代伊告诉我，更强大的人工智能版本可能在这个十年内出现，并改善社会。但首先……

三件事需要知道：

• 人工智能检测器错误指控学生作弊——后果严重• 谷歌将双子星团队加入DeepMind以推动人工智能精简• 微软人工智能副总裁布贝克将加入 OpenAI

强大的人工智能

想象一个大多数癌症形式被消除、心理疾病得到治愈、普通人活到150岁的世界。Anthropic首席执行官达里奥·阿莫代伊相信，如果人工智能的进步速度继续加快，这种情况可能会比你想象的更快实现。

阿莫代伊，前生物物理学学生，在最近的一篇15000字的论文中详细阐述了他的预测，标题为“爱的机器”。乍一看，他似乎不是这个乌托邦愿景的合适传播者：阿莫代伊和他的公司有时被描绘为过于关注人工智能潜在危害的“悲观者”。但阿莫代伊想要打破这种声誉。“在过去两年中观看关于人工智能的辩论，我感到沮丧的是单一维度的光谱：你要么是悲观者，要么是加速主义者，”阿莫代伊在周四的视频聊天中告诉我。“我们需要抓住好处并防止风险。我们需要同时做到这两点。”他的预测关于人工智能的好处有一个重要假设。阿莫代伊认为，我们可能只需几年时间就能开发出一种更先进的人工智能版本，能够在许多任务上超越人类，并且比大多数诺贝尔奖得主更聪明。在他的论文中，阿莫代伊写道，我们可能会在2026年之前达到这个里程碑——他更愿意称之为“强大的人工智能”，而不是常用的“AGI”或人工通用智能。“我认为这是最早的，”他在我们的采访中澄清道。“但你知道，这并不意味着我认为这是最可能的……我可以告诉你一个故事，事情被阻碍，可能要100年才会发生。这是可能的。但我肯定会押注在这个十年内。”

阿莫代伊并不是唯一一个持乐观态度的人。埃隆·马斯克也表示到2026年，人工智能将比最聪明的人类更聪明。而OpenAI首席执行官山姆·阿尔特曼最近发表了一篇文章，称我们可能在“几千天”内达到AGI，这意味着在下一个十年内的某个时候。

但行业内存在很多分歧。AI的教父之一、Meta的首席AI科学家扬·勒昆表示，目前的大型语言模型“和猫一样愚蠢。”一组苹果的AI研究人员最近发表了一篇论文质疑领先的AI模型是否真的在推理，正如一些AI公司所声称的那样，还是仅仅在“复制其训练数据中观察到的推理步骤。”其根本批评是，这些模型并没有看起来那么智能。可能仍然需要重大的技术突破才能实现更深层次的智能。

这些争论对阿莫代伊来说并不新鲜。在某个时刻，阿莫代伊表示，他曾相信其中一些观点。但到目前为止，他说，Anthropic和其他AI公司在很大程度上通过简单地扩大数据和计算能力，解决了一些主要挑战。

“每当我们认为看到一个障碍时，河流就会绕过它，”阿莫代告诉我。“我有足够的专业知识对怀疑者保持怀疑。”

在我与阿莫代的对话中，我们讨论了写这篇文章的动机，为什么人工智能模型比看起来更有利可图，以及他是否计划在后AGI世界中改变自己的生活方式。这次采访经过了长度和清晰度的编辑。彭博社：感觉突然之间我们看到了更多关于人工智能的非常乐观的文章。萨姆·奥特曼最近有一篇叫做 智能时代。你认为你们的愿景有什么不同，还是你们总体上是一致的？

**达里奥·阿莫代：**我不能为其他人的文件或其他人文件背后的意图发言。我觉得真正重要的是对这个问题保持严谨，尤其是对那些没有明确答案的问题保持严谨。文件中的一个主题是：一个非常聪明的东西——在某些方面比人类聪明得多——在世界上能做什么？对此没有明确的答案。如果你、我或一般人拥有更强的认知能力，你可以提出这样的论点：没有什么改变。我们许多问题都是这些难以解决的冲突。或者你可以提出一个论点，认为这将彻底改变一切。我认为这是一个科学问题，我们确实不知道答案，因为以前从未有理由去问这个问题。

达里奥·阿莫代伊摄影师：大卫·保罗·莫里斯/彭博社 这篇文章是否部分旨在帮助向投资者解释愿景，因为每个主要的人工智能公司都在寻求越来越多的资金？

这篇文章的时机与筹款考虑无关。我在八月份内部展示过。我在山姆的文章发布之前就已经将草稿发给了外部人员，他们在我在文章末尾提到的名单上。然后[出现了]这些关于筹款的传闻。

你说我们最早可以在2026年达到强大的人工智能。是什么让你感到更乐观，是什么可能导致这种乐观情绪的减弱？

我长期以来一直是扩展假说的支持者：即增加计算能力、增加数据，模型会不断变得更好。我自2014年以来一直在这个领域，我听到了一个又一个论点，其中一些我在早期版本中是相信的：“你可以让一个人工智能系统处理语法，但它无法理解语义。它无法理解意义。一个句子可以有意义，但一个段落却不能。模型可以记忆和回忆信息，但它们无法思考和推理。”现在，最新的论点是：我们将耗尽训练数据。我们确实可能会耗尽训练数据，但我一再看到我们要么经历这些事情，要么绕过它们。所以我有这种怀疑，这种直觉——我不确定——但我有这种怀疑，指数增长将会持续下去。我们应该如何理解你和山姆等人对人工智能的这种重新乐观的态度，但在某些领域仍然存在这种持续的怀疑？

我会把它分成两部分。一是对模型在技术层面上会继续改进的怀疑，二是对其对世界影响的怀疑。实际上，相对而言，我对第二点更为同情。我认为其中一些在文章中有所体现。我们有一个一致的世界，在这个世界里，我们取得了所有这些令人难以置信的技术突破，而社会问题却变得棘手。

在技术怀疑方面，我有更多的信心——尽管不是确定。我们看到这些兴奋的浪潮。人们变得非常兴奋，甚至在短期内过于兴奋，这导致了怀疑者的反弹。怀疑者说：“模型永远无法做到这个，永远无法做到那个。”所以我们经历了这种繁荣与萧条。看起来像是一种时尚，但技术本身却在平稳增长的轨道上。我认为这种平稳的趋势可能会继续。也可能不会。怀疑者可能是对的，但这不是我的猜测，也不是我所押注的。

你曾说过，训练领先的人工智能模型现在需要花费10亿美元，而这可能在明年上升到50亿到100亿美元。成本在你们公司开发这些模型时有多大障碍？你认为你们是否需要越来越依赖于风险投资以外的资金——不仅仅是来自大型科技公司，还有外国投资基金？

我会区分训练模型所需的成本和运行模型所需的成本。许多人将高成本解读为没有盈利的商业模式。我认为情况并非如此。相反，这是一个具有高研发成本的业务。我不想涉及具体数字，但如果从模型的角度来看——训练这个模型的成本是多少，然后我们从运行它中获得多少收入——我们的业务，可能还有其他业务，看起来要比你考虑投入了多少资金、支出了多少资金（因为你正在训练下一个模型）要好得多。如果你无法训练下一个模型，你可能会有一个可行的业务，依赖于当前的模型。只是其他人正在训练下一个模型。

你是否在个人生活或工作生活中根据你对我们可能在2026年达到这种更强大人工智能的信心而改变了什么？

我对此想得很深，我认为在大多数方面，你的生活还是会继续进行。

你关于活到150岁的预测让我个人开始思考是否需要重新考虑一些事情。

我想你可能会有各种奇怪的反应。你可以生活在一个泡沫中，或者开始以各种奇怪的生存主义方式行事。我认为这既不是正确的反应，也不是智力上正确的反应。我也认为这会对我产生奇怪的影响，并且会让我看起来非常奇怪。一般来说，我只是按照我通常的方式生活。但与此同时，我也在想，很多出错的事情，也许我们可以修复它们。所以只是一个简单而健康的信息：照顾好你的健康，防止损害过于严重，变得不可逆转，尽你所能。但也许这些都是好的建议。也许我只是以更紧迫的语气重复它。

好的。这让我对如果我真的活到150岁而没有计划的事情感觉好一些。

没有人有计划。作为一个写过50页关于这种规模的世界变化的论文的人，没有人有计划。我们都在尽力而为。有些人比其他人想得更多，但这根本就是疯狂的。

有关于人工智能的问题吗？ 发邮件给我， Shirin Ghaffary，我会在未来的新闻通讯中尝试回答你的问题。

值得关注

亚马逊是最新一家寻求核能来满足其人工智能需求的大型科技公司。AWS首席执行官马特·加尔曼加入讨论他们在清洁能源方面的最新投资。他在“彭博科技”节目中与埃德·卢德洛和卡罗琳·海德交谈。### 深度学习

萨姆·阿尔特曼的世界币更名，以及新硬件
微软与OpenAI的紧密合作关系显现出裂痕
光子计算初创公司Lightmatter达到 44亿美元的估值
台积电股票本周创下纪录新高，因人工智能热潮提升了预测

强大的人工智能

值得关注

更多来自彭博社