AI有智慧，可能是你的误解_风闻

当下的人工智能是聪明，但并非智慧。

聪明与智慧之间有什么区别？德裔英国经济学家舒马赫（E.F. Schumacher）在其开创性著作《小即是美：以人为本的经济学》中，用 “聪明 “（cleverness）一词来指使人类取得非凡成就的能力，如登陆月球、创造强大的计算机和开发尖端技术。在他看来，“聪明 “是指对物质世界的掌控、效率以及对经济增长的追求，而这往往是以牺牲环境健康和社会福祉为代价的。

另一方面，舒马赫认为 “智慧 “（wisdom）包括对自然世界更深刻的理解和尊重，承认人类知识和技术的局限性，承认道德和伦理因素在指导人类行动中的重要性。舒马赫认为，智慧意味着对可持续发展的承诺，即经济活动的开展要与环境和社会的长远利益相协调。这涉及做出不仅在技术上可行，而且在生态上可行、在社会上公正的决策。

随着 LLM 的性能不断提高（Anthropic 最近发布的 Claude 3 几乎超越了所有性能基准），人们开始理解了舒马赫所强调的对技术的警惕。他认为，当一种文化只专注于效率的提升，而不是智慧和可持续性时，就会出现这种情况。

我认为舒马赫的伦理-经济框架在两个方面适用于人工智能：一方面是关于技术的现状，这更像是调侃，很可能不会永远如此。另一方面是技术的发展轨迹，技术高速发展可能带来不可估量的后果，这不可儿戏，关乎人类的存亡。

从技术发展现状来看，人工智能目前的成果都仅仅强调了效率的一面。它可以解决已知的复杂数学问题，在海量文本文档中找到特定数据，甚至写出像样的散文，但迄今为止，它没有生产出任何具有“独创性”价值的内容。LLM 是一种基于大量训练数据和强化学习来预测数组中下一个最合乎逻辑标记的衍生机器，不能更深层次地理解人类社会，其输出缺乏了道德或伦理方面的考量。因此，一些专家将LLM称为鹦鹉：仅是简单机械的模仿，无法理解生成语言的内部逻辑。

如果一个人有极强的模仿能力和学习能力，我们会夸赞他很聪明（clever），但不是智慧（wise）。所以我们常常夸小孩聪明，但很少称赞他们智慧。因为幼儿行为通常是在模仿周围的成年人，而不是在不同的思维线索里直抓关键，进行创新。

当然这仅仅是对当今技术发展的注解，绝非永世不变的说辞。这让我想到舒马赫伦理经济框架的第二个AI分析视角：AI发展如此之快，以至于该领域的许多领导者都在不断表达对这项技术的担忧。萨姆-奥特曼（Sam Altman）就公开表示： “我开始反思发布ChatGPT是否是一个正确的决定，这种新型技术就像潘多拉的魔盒，没人知道它会带来什么样的影响。”

也许这种担心会变成现实，也许不会。真正的问题在于，当技术团队每天都在争分夺秒地推动人工智能向前发展时，我们目前却没有任何停顿，去反思这其中可能的误差。

但我们没有退路，更不能把 LLM 放回所谓潘多拉的魔盒。AI技术已经带来了许多对人类社会有益、公正的实践。当然，舒马赫会督促我们脚踏实地、循序渐进，让AI发展不仅在技术上可行，在生态上可持续，而且在社会上公正公平。

世界最顶尖的那批AI科学家会听从我们的建议吗？还是会像他们所研发的AI产品一样仅具备“聪明”的特征，而缺乏“智慧”呢？时间会证明这一切。