聊天机器人将助力人类物种延续——《华尔街日报》

一个问题是，当今聊天机器人通过扫描海量文本库中符号间关系来运作的算法过程，是否属于一种能浮现新信息和洞见的心理组织形式。

若是如此，仍需人类来识别这些发现。聊天机器人既不知道也不关心其输出对人类接收者是否具有真实信息价值。就连最成功的聊天机器人显然也不清楚自己是否具备动机。“ChatGPT本质上并未被编程设定动机或意图，“它告诉我，但"开发者可能为其设定了某些目标或意图”。

相比传统搜索，ChatGPT能更快获得答案。我问：“现代Santa Cruz是否受鸡肉税影响？“必应聊天机器人回答：“现代Santa Cruz不受鸡肉税影响，因为它在美国生产。鸡肉税是1964年起对进口轻型卡车征收的25%关税。”

但你仍需核实，因为该系统设计初衷是生成合理语句而非确保准确。ChatGPT在信息层面可能沦为死胎，正因为它切断了流向其基础数据源的广告资金流。 若不想让新型聊天机器人自我消亡，就必须找到可行的商业模式。

有人担忧失业问题，我认为这种担忧实属误判——事实上我们需要生产力大幅提升才能偿付社保医保，满足日益增长的老年退休群体需求。

如果说新闻从业者对ChatGPT特别警觉，那是因为比起其他人，我们更怀疑自己也不过是算法。我们对任何话题的"真相"认知，不过是所处环境中暂时占优的特定词句组合。这并非玩笑。OpenAI首席执行官山姆·奥尔特曼本周在国会作证时谄媚地提醒道，这能抵消许多媒体歇斯底里的反应：“重要的是要明白GPT-4是工具，而非生物。”

据说，人工智能的能力发展速度已超出我们的评估能力；它可能会产生意想不到的特性，比如自我意识，这导致一些人坚持要为这种非生命体赋予“权利”。即便如此，决定权仍在我们手中，就像我们有权决定是否赋予奶牛或未出生婴儿权利一样。

人们最常表达的担忧是，无论有意还是无意，一旦引入某种机制，人工智能可能会认为通过奴役或消灭人类最能实现其目标。通过某些未明确说明的漏洞，它控制了实现这一目标的工具，包括被称为人类的工具，通过胁迫让他们为其目的服务。

而我更直接的担忧是：新型聊天机器人能够生成无限量的文本输出，这将淹没其赖以学习的人类文本，用衍生出的废话填满信息空间。谷歌搜索终究不会过时；相反，它将紧急升级，以筛除那些毫无意义的算法废话，转而青睐那些真正蕴含人类推理和知识的文本及其他真实文件。

在任何情况下，中国都不太可能加入某些人提出的暂停发展通用机器智能的倡议。也不太可能参与其他人推动的许可制度，这些制度旨在只允许那些做我们喜欢的事情的人工智能进入世界。

也许中国会成为未来人工智能领域的切尔诺贝利，让我们从中吸取教训，但除非人类文明利用现有手段自我毁灭，否则人工智能似乎注定会继续发展。而且，总体而言，这似乎是件好事。

一个严肃的理论认为，我们未能探测到先进文明的宇宙信号，是因为这些文明无法在自己的技术革新中幸存。然而，这些理论家也承认，技术是我们唯一的希望。化石记录表明，像智人这样的物种灭绝的时间，将远早于让埃隆·马斯克担忧的时间表。这位人工智能批评者却希望为太阳约五十亿年后的死亡做计划。一项研究估计，哺乳动物物种的平均寿命仅为两百万年。

自然历史的必然预测是，虽然我们的技术可能毁灭我们，但没有技术我们必定灭亡。除非能发明超光速旅行，否则机器人和人工智能似乎是唯一可行的方法，将我们的生物种子传播到遥远的行星，然后构建初始栖息地和支撑基础设施，使其在那里繁荣发展。

而且，不，曲速驱动可能不是天降神兵。认为超光速旅行可行，可能等同于认为我们已经注定灭亡，因为某些已经在银河系中漫游的先进文明肯定不会欢迎我们的竞争。我的猜测是，一个需要人工智能进行星际殖民的宇宙对我们来说，比一个允许光速旅行的宇宙更安全。

照片：Cfoto/Zuma Press出现在2023年5月20日的印刷版中，标题为《聊天机器人将帮助我们的物种延续》。