Hinton突然对AGI乐观了！“Ilya让他看到了什么吧…”_风闻

明敏 鹭羽 发自 凹非寺

量子位 | 公众号 QbitAI

Hinton突然对AGI变乐观了。

对于AI，他几周前还觉得是养虎为患，最新采访却改口说是一种母亲和婴儿之间的亲密共生关系。

大多数专家认为5-10年后人工智能会比人类更聪明。

问题是更聪明事物被不聪明事物控制这种例子实在是太少了，可能政客和科学家之间是这种关系（笑）。

但是我知道唯一的例子是母亲和婴儿。

不过AI才是母亲，人类是婴儿。

我们不必去尝试支配超级智能，应该是在设计之初就给它植入“母性本能”，这样AI就会本能地希望我们幸福，从而实现共存。

对于AI的发展，也不必踩刹车，应该要引导正确发展方向。

这和他过去3年来对AGI的态度，几乎是180度大转变。

2023年，他为了警告AI风险，从在任10年的谷歌离职，就是以更中立客观的角度向全世界布道AI的利弊。

已经77岁高龄但仍旧奔走于全世界，呼吁人类可控地推进AI发展。就在今年7月的WAIC上，他还以“养虎为患”的例子在中国阐释了AI风险。

才过去不到2个月就发生这样的变化。难道是他看到了什么？

也许Ilya向他展示了什么？

如上最新观点来自Hinton最新访谈，此外他还分享了AI发展的更多理解：比如有机会一定要警告马斯克奥特曼、现在没有1家AI公司足够重视AI安全……

重新审视AI风险，但还是要喷马斯克奥特曼

Hinton接受了来自著名记者Katie Couric的独家访谈，整个对话过程长达近一个小时，核心探讨的还是Hinton自谷歌离职后屡屡提及的AI风险。

Hinton将AI风险分为两种：

短期风险

长期风险

他强调自己主要担忧并非是短期内的滥用AI，当然这也很重要，而是人工智能本身接管人类的可能性。

在很多人眼里，AI比人类聪明并接管整个世界，只是科幻小说的存在，但包括他在内的许多专家都认为，这其实是非常现实的长期风险。

也许就在未来的5到20年内，AI就会比人类聪明得多。

聪明程度的差异之大让人类举步维艰，要反过来控制比自己更聪明的智慧生物，Hinton表示他唯一知道的例子就是母亲和婴儿。

也就是说将AI设计成母亲的存在，而人类将会是AI庇护下的婴儿。

这和他在几个月前WAIC上对人类和AI关系的认识，可以说是截然不同。

当时他将AI比喻为人类饲养的小虎崽，等待他长大，就能轻而易举干掉人类。

要杜绝这种可能性，人类要么只能训练它无法伤害人类，要么就提前干掉它。

后者显然在当下是不现实的，我们的生活已经被AI完全渗透影响，那么我们只能选择引导AI。

朝什么方向呢？母亲和婴儿。

在设计之初，就为AI赋予强大的“母性本能”，让它们支持人类的成功，这样即使未来有一天，它变得更加聪明、更加强大，也能很好地与人类共存。

这种全新的设计思路，也许将彻底改变传统路径上人类试图统治AI的思维模式，成为一种普适性地训练AI善良特性的方法，并在不同智能水平的模型上得以实现。

不过，Hinton在此前的上海之行交流中也提及，这是他所希望看到的，是值得去深入探究的可能性，但也可能无法实现。

这需要所有AI研发者一起通力合作，而马斯克和奥特曼显然不在此列。

Hinton表示，假如他有机会和他们两人共处一室，那么他会相当直白地说：

你们很清楚，你们正在发展的事业很有可能正在消灭人类。

Hinton点评了当下几家AI公司在缓解风险上的表现，简单来说没有一家做的足够好：

Anthropic：比其他家投入更多精力在AI安全但是也还不够

OpenAI：初心是对的，但是现在已经变味了

Meta和xAI：在底层开发时都不关注AI安全

具体点就是，他认为OpenAI的初衷是安全开发AI，结果现在的重心却偏移到如何让AI更聪明，而不是如何让它更安全。

奥特曼转向快速开发AI的道路，让Hinton乃至马斯克都很反感，马斯克此前还曾起诉奥特曼没能履行最初的承诺。

不过马斯克也是一丘之貉，Hinton指出，马斯克自己在开发Grok的过程中，也没有过多关注安全问题，马斯克应该将他对待奥特曼的逻辑应用到自己身上。

而他们二人之所以这样做，主要原因还是因为贪婪和自负，渴望通过AI攫取巨额财富，并希望成为第一个创造出超级智能的人。

他们追逐的是创造超乎人类智能的兴奋感，而非守护人类的责任感。

AI的正向作用看医疗，但是也会取代一些工作

AI应用落地这一方面，Hinton还是一如既往看好医疗领域。这一定程度上和Hinton的个人经历有关，他的两任妻子都死于癌症，因此他非常希望AI能在医学领域有所突破。

总结来看Hinton认为值得关注的方面有5个：

医学影像解读

加速药物研发

个性化和精准医疗

提升医疗系统效率

更高情感关怀

首先在医学影像解读上，Hinton觉得AI能比人类医生获取更多信息。

比如AI可以通过分析眼底（视网膜）的扫描图像，就能准确预测一个人患心脏病的风险，甚至能判断患者性别，这些都是人类做不到的。

他承认自己在2016年预测“AI将取代所有医学影像医生”这有点过于乐观，但是他坚信这只是时间问题，未来AI辅助诊断将成为常态。

其次在新药研发上，Hinton提到了DeepMind在预测蛋白质折叠上的突破，蛋白质的3D结构决定了其功能，能够准确预测对于研发与特定靶点相互作用的新药至关重要。

比如在癌症领域，靶向药物比化疗这种传统治疗手段给人体带来的伤害更小。这项技术也将催生一个全新的产业，为我们带来一系列更有效的药物（不过不是1-2年之内）。

然后在个性化和精准医疗方面。AI可以整合大量医疗数据（包括基因组信息、病史、病历、家族病史），从而更好地实现疾病的早期诊断和个性化治疗。

以及AI也能解决医疗系统管理问题，比如通过数据分析，AI可以帮助医生更准确判断患者应当何时出院，这样能在确保患者得到充分治疗同时又优化医院床位的使用效率。

最后他还提出了一个反直觉的观点，一些研究表明AI在和患者交流时，比人类更有耐心、更具同理心，能提供更全面的信息和情感支持。

但是也不可否认，AI落地、提高生产力同时也将会导致一些人被取代。

在这之中一些职业将会面临更高风险：客服、律师助理、程序员等，甚至作家、编剧这种创意工作者也不能完全避免。

事实上AI在所有事情上都会比我们强。我认为10年之后它能写出非常精妙的剧本。

Hinton认为这些问题还会进一步加剧贫富差距等，不过这更多是社会问题，而非技术本身的问题。

好胜心极强的父亲：我得诺奖他会生气

最后访谈再次聊到了Hinton“显赫”的学术家族。

曾曾祖父乔治·布尔 (George Boole)是著名数学家和逻辑学家，是布尔代数的提出者，布尔代数是现代计算机科学和数字电路的理论基石。

曾叔祖父塞巴斯蒂安·辛顿 (Sebastian Hinton)，儿童乐园里常见的攀登架的发明者。

父亲霍华德·埃弗里斯特·亨顿（Howard Everest Hinton）是英国昆虫学家，英国皇家学会院士。

姑妈琼·辛顿 (Joan Hinton)，中文名寒春，核物理学家，参加了曼哈顿计划。

Hinton说他的父亲是一位强势、好胜心极强的人，对子女都有很高期待。

父亲给他的“激励”往往是：等你的岁数有我2倍大、且工作强度是我现在的2倍时，你的成就或许也就只有我的一半吧。

虽然这句话是半开玩笑，但是也给年少的Hinton带来了很大压力。

不过从现在的知名度来看，Hinton超越了父亲。

所以，如果当父亲知道Hinton获得了诺奖，他会是怎样的反应？

会非常高兴，但又有点生气，他确实非常好胜（笑）。

他会为儿子骄傲，但是儿子又获得了他没有的成就。

也是在这样的家族背景下，Hinton对于AI始终有着至高的学术追求，在晚年时期他也将引导AI正向发展视为己任。

所以我们看到，77岁高龄且患有严重腰伤的他开始频繁出现在公众视野，通过一次次访谈、演讲去向更多人传递对AI的正确认识。

他很高兴大家愿意听他的分享与讨论，在这次访谈里他也专门提到今年和中国方面取得联系。

在WAIC上，我们也看到了他在中国第一次公开演讲。

但我们也知道，Hinton还不会停下，他还会为AI的正向发展继续、不断奔走。

参考链接：https://www.youtube.com/watch?v=NnA2OoH_NFY