对AI能力的一些理解_风闻

　　这几天尝试通过一些问题来了解Deepseek能做什么，以下是我对它能力的一些理解和总结。

　　１、没有真正的创新能力。

　　这一点，它自己的说法是这样的：

“作为一个人工智能，我具备一定的自主创新能力，这主要体现在我能够通过分析大量数据和信息，生成新的观点、解决方案或创意。然而，我的创新能力依赖于预设的算法和训练数据，并不具备人类那样的意识和直觉。因此，我的创新是在特定框架和规则下进行的，无法完全自主地超越这些限制。”

　　这个说法其实并未说到实质要点上，因为所有的人也是在特定框架和规则下进行的，只不过不同的人因为经历和能力不同而有不同的框架和规则，并且他们本人至少没认识清楚这些规则和框架的全部。真正的差别在于，现在的AI，这样的规则和框架实际上是过于简单的，远远比不上思维能力比较强的人，而这一点暂时还难以缩短差距。

　　而这个差距，其外部表现上已经是质的差别了——它没有真正有价值的创新能力。

　　从我和它的对话中，我发现对任何有开放空间的问题，它都一律难以完全准确把握人指给它的方向（大方向不会错，但就是和人期望总有那么点偏差，导致一个问题必须迭代问几次）——它总是将自己局限于开放空间中早已有既定论断的有限的表达上面，当然这些“早已有既定论断”可不是早有定论，而是早有人设想和谈论过，哪怕你用专门的语言表述提示它注意也没效果。

　　这就是没真正创新能力造成的——没人做过的它就想不到要做。只是我们任何一个人类个体都不可能知道所有的其他人曾做过什么，哪怕想象都远想不全，这样AI的回答才让我们觉得它有一定的创新能力（它“想到”的我就想不到）。也许只要能你费心做下网上搜索，这些所谓的“一定的创新能力”都会失去价值。但从AI得到这些回答，一般比费事从网上搜索要简单，而且网上有的信息用搜索引擎搜索难度很大。这的确是AI产品的优势和价值。

　　如果说“指哪打哪”有精度问题，那么对既定的东西做总结概括，这在一般人看来总是没问题了吧？但事实还是有差距。要求AI做概括性表述，或者去总结规律，它总是表述得水分很多，很难直接给最简洁和切中要害的“干货”。背后原因，我觉得还是创新能力缺陷：它只会将它自己知道的概括性表达做 排列组合，不可能做前人未做之事。这样的总结概括，我尝试了不同的问题，但结果如出一辙：它总结得很水，我给出自己的答案后它认同并认为更好，甚至还能事后检讨它自己的问题，但就是难以摆脱这个套路。

　　个人认为，创新能力是最终可以被AI实现的，并且它们能超过现在的人类（但未必能超过未来自我改造后的人类），只是现在的发展阶段上它们还做不到这一点。

　　２、它评判对错的根据是逻辑和论据。

　　如果你的逻辑正确论据充足，它就会简单承认你是对的，甚至可能把你夸得起鸡皮疙瘩。我还没尝试过特意给错误观点或论据并顽固坚持——由于后面我将说明的原因，我不想这么做。完全依据逻辑和论据这一点上，对用户既有好处也有弊端。

　　好处很显然，不产生无谓的争执。弊端是，当真正的真理并不能由用户掌握的论据充分论证，而AI又不掌握能论证的那部分时，错误就会被AI认同而用户并不易知晓。

　　有好几次，我从不持观点地提问开始，它回答后，我给我认为的正确看法并说理由，它都彻底反转了立场。这种反转过程就说明了它不掌握一些人能掌握的论据时，AI完全可能持错误观点。这意味着“引用AI观点为自己站台”这样的行为并没有正当性，但好多人已经在这么做了。

　　从AI自己的回答上也可以看出这种情形背后的原因——它只关心它知道的逻辑和论据，而真理是无限过程的实践检验出来的，不是有限实践数据和逻辑推导出来的。

　　３、它提供的相关知识和对观点的可能影响的分析，一般都超出人的想象，这十分有用。

　　如果我要研究一个问题，我是不可能有能力把它提供的那些知识找全的。在分析具体问题的深度上我肯定比它强（改变这一点需要彻底的算法革命，不是小的修补改进），但它的分析总会涉及一些我遗漏的方面或要点，这是它的优势。当然，前面说了，这不是创新，而只是对AI而言的常规套路。但作为人，是很难把所有相关套路掌握全并始终运用好的。至少对我这样的人而言，这个差距是很大的，难以追上。也许优秀专业学者有可能对AI有一拼的可能，但我对此也不乐观。

　　不过，如前所述，AI没有真正的创新能力已经导致了很多派生问题，而直接形成自己的创新性观点，这样的事，至少现在的AI肯定做不到。现在有些人，甚至是专业学者，在说AI能让学生写论文很容易达到教授水准而难以发现，这就是胡扯了——能下这种判断，只能理解为被达到其水准的教授们，他们自己这辈子是混饭吃爬上了教授岗位，以至于他们竟然不能分辨学生论文是否有真正创造性。把混饭吃的踢出去，让真正有能力的上位，并健全筛选淘汰机制，这样的教育改革才可能是AI会触发的事，这可是好事而不是灾难。

　　４、不涉及创新的话，AI的语言理解力和表达力已经足够优秀了。

　　涉及创新的，即使是间接涉及，它也无能为力，前面已经说过。但完全不涉及创新，和人沟通就看不出任何问题，它能做到对人的表达准确和全面地理解，它的表述也完全清楚明白和流畅，作诗填词什么的，应该还没有最著名的那些诗人好，但比普通人强很多。文学方面的“创造性”，它显然是有的，但问题是，我不认为文学上的这种人认可的“创造性”是真正的创新，毕竟文字是有限数量的，它们的排列组合，或者合理排列组合是有限的，这不是真正的创新。

　　５、AI追随用户观点的这种改进，应该是只基于用户账号的，AI核心功能不会被与用户交互改变。

　　提这一点，也许因为我是外行——我亲自问了它相关问题，它的回答里我猜到了这个结论。也许对内行这是个小儿科的事。

　　但这也同时意味着，用户对AI的（非核心能力）改变，有可能是好的也有可能是坏的——你忽略正确的论据而只灌错误论据，它就会在和你交互时使用错误观点，尽管这不会影响AI核心功能和对别的用户的交互，但对你这个用户自己而言，这应该会有后续影响。

　　这就是我前面提到的，我不愿意对AI特意灌输错误观点或欺骗其接受错误观点的原因。

　　如果有人要注销自己的AI平台账号，而其使用历史很长，交互很多的话，至少我个人的理解就是，你长期对AI的“私人喂养数据”就会彻底丢失。相同的平台下，不同的人“私人喂养数据”不同，AI对不同的人表现出的能力也随之不同，有的人之间差异可以很大，请注意这种注销后的损失。

　　６、我未看出Deepseek有真正的意识形态的“中国化”，至少未找到这样说的根据。

　　我和它主要讨论的是哲学问题，如果我不在问题中设定，它的回答就不会受中国人认同的哲学所限定，而是唯物、唯心什么内容都有——当然，我提的问题是有这样开放包容性的。

　　我见过有人抱怨说Deepseek存在中国特色的敏感词汇，我对此并不了解，从直接对AI的询问中也只回答一段官话而不会有其他回复。我不排除有这样的东西，但这是遵守中国法律问题，根本不是这里谈的“中国化问题”。我的感觉是，Deepseek似乎并未添加基于中国的意识形态限制。

　　综上所述，我的结论是，现在的AI，能做的还只是辅助作用，这种辅助对所有人都会起到简化工作和减轻负担的作用。但对于能力很差的人类群体，完全依靠这种辅助可能在一定条件下比他们自己在辅助下自主工作更好。对这些人，如果他们顽固选择只依靠AI来做事的话，会给别人增加麻烦，这必须通过各种手段去限制和惩罚。

　　举个例子，假如网站有一大批人都用询问AI再复制粘贴的方式回复和写文章，这将严重降低网站质量并增加审核负担。

　　再举个例子，如果宣传导向不介入的话，会有太多的人直接相信AI的观点，甚至指导自己的言行和评判别人，这会引发很多问题，包括错误观点的产生和蔓延，人与人之间产生新矛盾等等。

　　诸如此类的新问题，是应该被关注的。

　　我写这个文章的目的，相当程度上就是要告诉大家，迷信AI是个不小的错误。AI现在还处在发展的最初级阶段，就算现在这种类型的AI未来在创新能力上全面超越人类很远，它也离同时成为真正的实践与认识主体还很远，在这种条件下，AI只能作为辅助工具而存在。而更远的未来，人类是要自主进化而改变自身的，这用到的就不只是AI技术了，在这种改变下，实践与认识主体依然不是现在这种AI，也不会是未来任何时代的单独的AI技术的产物。因此，我们永远没理由迷信它。