生成式人工智能（AIGC）创作的局限性：闭门造车、纸上谈兵_风闻

【本文来自《20万企业用户申请接入通义千问，张勇：生态是阿里云的根基》评论区，标题为小编添加】

生成式人工智能（AIGC）创作的局限性：闭门造车、纸上谈兵

当前，以ChatGPT为代表的生成式人工智能(AIGC)如日中天，如火如荼，各IT大厂纷纷跟进，仅中国就有近30个大模型已经发布或即将发布。

但是，越是狂热的时候，越需要冷静。

AIGC在文案写作、图像创作和代码编写等方面的能力快速迭代，已经接近或超过人类水准。

但是，AIGC的知识进化局限于比特化符号知识的基础上，与实体世界没有交流互动，其进化结果脱离实际，难免有闭门造车、纸上谈兵之嫌。

生成式人工智能(AIGC)输入和输出是人类的自然语言——符号知识，但内部知识进行（运算）使用的则是比特知识。

往简单了说，比特知识进化是一个由多个“元素组合＋条件选择→稳态组合体”基本进化单元组成的基本进化过程。

                                               

我们以ChatGPT为例来说明这个过程。

首先，ChatGPT要“学习”很多从符号知识转换过来的比特知识，并从中获取各种词组、短语、句子、段落等多个层次的“组合规律”。

其次，ChatGPT要通过“选择条件”，来剔除不符合人类需求的组合，这就是条件选择。

这些选择条件可以在编程时人工设定的，也可能是ChatGPT通过学习人工标注的语料学会的。

比如，人们把一些涉及暴力、色情等词汇进行标注，告诉ChatGPT这些词汇不能接收和输出。

最后，专业人员再对ChatGPT输出的结果进行评判，告诉ChatGPT哪些是正确的，哪些是错误的，这样就使得ChatGPT的产出和人类的常识、认知、需求、价值观保持一致。

总的来说，生成式人工智能(AIGC)可以代替人类做一些通用性文案、图形和代码的创作工作，但不能依赖它来解决所有问题，尤其是个性化、特殊性、交互性、开创性工作。

人类是一个复合型智能实体，不但拥有符号智能，还同时拥有信号智能和基因智能。

人类拥有的信号知识和符号知识，大都是通过“信号知识-实体系统”复合进化、“符号知识-实体系统”复合进化获取的，与实体联系密切。

也就是说，人类创作的作品来源于自身的体验、生活的感悟，与实体世界紧密相连，时刻接受实体世界的检验。

因此，AI大模型经常出现“人工智能幻觉”、“一本正经地胡说八道”等情况，也就不足为奇了。