心智观察所：独家对话|谢耘：AI仍陷“前科学”困局，AGI未来何去何从？-心智观察所、谢耘

【对话/ 观察者网 心智观察所】

人工智能技术狂飙突进，正以前所未有的速度重塑千行百业。然而，光环之下暗流涌动——深度学习依赖的“暴力计算”能否突破统计局限？通用人工智能（AGI）是触手可及的未来，还是科学幻想？

值此产业躁动与理性思辨交织之际，【心智观察所】独家对话东方通科技股份有限公司首席科学家谢耘，就AI技术狂奔与理论认知等一系列问题做了深入探讨。

心智观察所：AI产业和相关技术演进是业界持续关注的热点，您对目前AI的基本现实有哪些判断？

**谢耘：**AI迄今依然处于“前科学”状态，其科学理论或称智能科学理论至今没有出现，只有一些零碎的认识。人类从神经生理学和心理学两个角度研究了100年左右，前者是从低向上、后者是从外向内试图解开人类意识/智能之谜，但一直没有能够实现突破。所以人工智能迄今为止依然是一门没有科学理论支撑的、基于经验的、解决具体问题的实用技术，属于现代工匠技艺。

有人认为，这样做下去智能科学原理一定就会出现。但是从历史上看，科学的出现并不是工匠技艺不断积累的一个必然结果。否则中国就不会错过人类科技发展的机遇了。

人工智能在70年的发展历程中，尝试过包括逻辑推理在内的多种方法，效果都不令人满意：通用性差，难以应对复杂情况。2010年随着计算机暴力计算能力的出现，深度学习的统计方法相比其它方法而言，成为了能够适用于更多类型问题的方法，成为当下人工智能的中流砥柱。但统计方法受制于统计样本自身蕴含的信息，无法超越这些信息所能反映的问题范围。

心智观察所：有关AGI（通用人工智能）的范式、路径等问题，业界多有讨论且聚讼不休，您对通往AGI之路的方法论怎么看？

**谢耘：**AGI包含两方面的含义。第一种含义是，找到一个通用的人工智能方法而不是应用系统，通过对其进行适当的参数设置（学习），构造出不同的应用系统，可以用它们分别去解决几乎所有类型的人工智能问题；第二种含义是，构造出一个应用系统，它是“万能”，可以解决几乎所有类型的人工智能问题。

再谈谈通用人工智能的方法。因为没有科学理论，所以从理论上无法推断出是否存在这样的方法；从实践上看，目前所有的具体方法，包括基于深度学习的大语言模型，都不具有这样的通用能力。是否把不同的方法集成在一起就能够形成这样一种“万能”的方法，因为没有理论支撑，只能依靠未来的实践来回答这个问题。而人类过去的实践没有这样的先例——高精尖的技术，都是基于科学理论发展出来的，靠工匠探索可以形成横向的百花齐放，但是纵向深入的程度有限。

通用人工智能应用系统这个目标从现有的基础来看还无法实现。就人脑来说，人脑在一般的意义上可以说是一个通用的智能“方法”或“平台”，可以通过学习训练解决各种智能活动。但是从具体的一个人来说，也就是当一个大脑成为了一个实际的“应用系统后”，它也不是通用万能的，而是每一个人都有自己的侧重。

由于上述的情况，所以AGI，特别是通用人工智能方法，现阶段作为科学探索比较合适，作为产业应用来开发，还缺少基本的前提条件。

心智观察所：AI可以赋能千行白业，而且下游应用领域也极为广阔，那么人工智能的技术方法在未来是“一”还是“多”？

**谢耘：**从图灵提出的人工智能图灵测试开始，人工智能领域中就参杂了大量的不满足科学规范的各种说法。图灵测试就只是一种主观评价方法，并不是满足科学客观性要求的科学性测试方法。它埋下了把主观想象等误当作“科学”要素植入到人工智能中的种子。今天，这个领域混杂了更多的商业炒作内容，却都以“科学”的面目出现。

从技术发展而非谋取商业利益的角度来看，还是应该大力提倡科学理性。对于人工智能的现状与未来，还是应该基于科学的规范和态度来做分析预测。这不是乐观与悲观、鼓励与打击的问题，而是实事求是的问题。失去基本的科学理性，这个领域的发展就会偏离健康的道路而遭遇许多不必要的曲折和代价。不久前的区块链是有前车之鉴的。

由于AGI应用系统的开发还缺少基本的前提基础，所以面向大众服务的人工智能系统，应该以各个具体领域应用为目标。比如人工智能的法律服务系统、健康服务系统、旅游服务系统、历史知识服务系统等等。国家应该制定相应的领域服务系统的技术与功能标准，对其进行合理的管理，反对做所谓的“无所不知”的应用。

这不是限制人工智能发展的自由，而恰恰会促进这个领域的百花齐放，让更多的企业参与到不同领域的应用中来，发挥各自的优势，开发适用于不同领域的人工智能技术，而不是由一个技术与少数巨头独霸天下。

聚焦于具体的领域，系统提供的服务质量才会有保证，这也会给用户提供更好的服务。高质量的服务，对于推动社会的发展也更加正面。这种方式可以有效地消除貌似“万能”的系统向社会倾吐不可预测的信息垃圾的情况。

配合聚焦各个领域服务的目标，从政策和舆论导向上，应该大力鼓励百花齐放的发展，而不是万众一心挤上一条道路。工匠技艺的特点，决定了人工智能的技术方法在可以预见的未来，必然是发散性百花齐放而不是在科学规律指导下的万宗归一。而且很多突破可能都是主流之外的。

这次人工智能的复兴，就是被主流冷落多年的人工神经网络技术在暴力计算的加持下重生为“深度学习”而带来的。目前社会上强大的跟风的习气，是不利于这样一个工匠技艺性领域的健康发展的。

心智观察所：在人工智能技术迅速发展的当下，您认为AI在替代人类工作岗位及潜在控制风险方面面临哪些关键挑战？我们应如何平衡技术创新与伦理安全，以确保AI的发展既能提升社会效率，又不逾越人类主导的决策边界？

**谢耘：**技术每次的进步，都是在某些方面替代人类，提升生产效率。也几乎每一次都引发“失业”的议论与焦虑。而事实上，每一次的进步，每一次对人类的替代，最后导致的是平均工作时间与强度的降低，及与之相伴的生活质量水平的提升。不断提升的社会福利正是这种进步的一个结果。当然这需要社会管理方式相应的改变的配合。

谈到有关AI对人类的控制问题，我认为超级人工智能一直是科幻作品的一个重要的主题，现在也成为了社会现实的焦虑。当人类对于我们自己的智能都还没有形成一个科学的认识的时候，谈论超级智能还为时尚早。就像我们不会将汽车意外自己发动行走而造成伤亡损失解释为汽车自己有意为之而产生恐惧那个样，我们也不应该将人工智能系统的某些意外行为解释为它有了自我意识，人类有被其控制的危险。

我们没有必要在人类还不知道如何飞上天的时候，就下功夫去研究人类如果有一天可以飞上天之后，会遇到什么样的问题。这样的研究既是杞人忧天，产出的结果可能也与飞机出现后的真实情况不大相干。

技术的发展对于人类的挑战往往是那些隐性的作用。工业发展对环境的影响就是这方面的一个例子。人工智能对人类的一个重要的挑战可能也是它的一个隐性的作用：导致人类智力的退化。就这个问题我去年已经写了一篇文章——在2024年7月2日观网“科工力量”上以“‘暴力计算’让‘外意识’爆发后，我们是否还将是‘人’？”为题发表。

本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。