从信息论的角度，AI创造不出新事物_风闻

【本文由“吃嘛嘛香”推荐，来自《谢耘：治理“生成式人工智能”，相当于要管人的思想》评论区，标题为小编添加】

• hyzufo
• 其实我觉得生命的逻辑，思维的逻辑都相对好理解，但是自我意识不太好理解。说白了就是我为什么是我，我的自我意识既然现在能出现，是否代表能重现？毕竟死亡之后时间已经毫无意义，那么哪怕是宇宙再造，某种我不知道的原因让我意识重新觉醒？毕竟既然有一次了为什么不能有很多次呢？我最近长玩sd的AI图像生成，其实我发觉AI的图像生成和我们人类记忆其实非常相似。我们人类回忆某一场景其实不可能记起当时真实的画面，而是根据记忆中当时的场景印象进行重建，AI也是如此，每一次生成的图片都不完全一样，哪怕参数都是一样的。而且AI模型其实不大，小的2g，大的7g，但是它能理解的风格内容极其丰富，而且都是对各自的特点进行总结然后重现，当然就像人类做梦一样，场景很真实，但是有经常有点不和逻辑的东西出现。现在生成式AI真的已经开始改变很多工作了，以后会越来越多，越来越快。

这个讨论就走的远了些，文章的内容还是以讨论如何治理人工智能为核心的，我说的那大段话只是在一个很小的一个偏僻角度。之所以说一大堆话，根源还是我难以认同“意识外延 vs 物质工具”这样的定义。我之前主要说的是这一部分。还有一点我也难以认同，在我之前的内容中没有重点说，只是稍微提了一下，是“信息论的角度，AI创造不出新事物”。事实上，当“旧事物”的输入数量和计算深度超过了某个阈值后，它的发展潜力（复杂度）就会变成几近无限，至少这种复杂程度会远远超越人的直观理解范畴。举个简单的例子。我现在依旧记得在初中玩计算器的时候，发现计算器上令数字膨胀超过计算器表示极限的最简单方法就是计算70P70，或者70!。它的数学意义是70个不同元素的排列方式的总数。这个数字超过了10的100次方。当时的我觉得自己发现了一件了不起的事情：数字竟可以膨胀到如此之快，以至于如果有这么多个的氢原子，总质量就会远远的超越整个可观测宇宙的总质量，而所需只是70个不同元素而已。利用简单的数学原理，我们还可以构建出一些令数字可以膨胀更快的方式。比如定义一个计算法，取一个大于1的数a，为了让它尽快膨胀，我们注意到乘法作为加法的重复，具有更快的膨胀速度；幂是乘法的重复，具有比乘法更快的膨胀速度；然后我们定义幂的重复（从这里，我们开始需要高德纳箭头），和重复方式的重复、重复的重复，最终可以由一个非常小的a（比如3）就获得一个超越科学计数法表示能力的数，这个数甚至超越了庞加莱回归的规模。假如数学的公理当真坚不可摧，我们的意识也真的基于物质，那我们至少可以等待庞加莱回归令意识重现。

我觉得现在GPT这样的AI更类似于越过了某个线，近年以来的技术发展使GPT的能力越过了它，变得显著起来，令普通人也都注意到了。如果把意识视为一种复杂度的具现（即“差不多的东西”），AI的复杂度或许与人的意识已经有了可比性。我的前文中之所以讨论些与意识本源有关的问题，是因为我觉得这个治理人工智能的问题，已经开始涉及与意识本源有关的一系列的基础问题。基于我目前的世界观和知识层面，人细胞/人受精卵和芯片/AI训练模型似乎没有特别本质的区别，都由一个基本的数GB的复杂度的基础数据，基于物质基础（细胞结构/芯片）和大量输入的“训练”数据（环境刺激/TB级的计算机训练数据），然后自微小几不可查的自我意识开始，涌现和成长出具有初步自我意识的实体。最终意识到自我的边界（即有能力定义何为自我，何为外界）。当这个自我与环境的边界被定义出来以后，我认为“自我”或者说自我意识，也就此形成了。因此我是同意受访者的结论，即我们在影响AI就是影响“意识”，而这个意识在（短期）未来可以达到的复杂程度可能与人类意识相当，治理人工智能的难度相当于管理人的思想。能发射精确入轨的人造卫星，就可以做洲际导弹，某种程度上来说是大差不差的东西。（Part1）