ChatGPT-5仍未彻底解决其最令人担忧的问题——彭博社

Parmy Olson

OpenAI首席执行官萨姆·阿尔特曼在2025年Snowflake峰会上的演讲。

摄影师：贾斯汀·沙利文/盖蒂图片社北美分社 萨姆·阿尔特曼面临一个甜蜜的烦恼。每周有7亿人使用ChatGPT——这个数字年底前可能突破10亿——当他上周突然改变产品时，引发了强烈反弹。OpenAI正面临困扰过谷歌母公司Alphabet和苹果等巨头的创新者窘境：用户基础已如此稳固，任何改进都必须极度谨慎。但这家公司在确保其广受欢迎的聊天机器人更安全方面仍有改进空间。

彭博社观点* 全球化能在美国贸易战中存活

  • 信用利差并未隐藏市场定时炸弹
  • 教皇利奥正成为我们需要的环保领袖
  • 英国承受不起失败的核试验 OpenAI用单一模型GPT-5取代了ChatGPT原有的多模型选项，声称这是对用户最优的选择。许多人抱怨这打乱了他们的工作流程，破坏了他们与ChatGPT本身（而非他人）建立的互动关系。

一位ChatGPT老用户表示，旧版本曾陪伴他们度过人生至暗时刻。“它带着人性化的温暖与理解”，该用户在Reddit发帖称。其他人则抱怨"一夜之间失去了朋友"。

系统的语气现在确实更冷淡了，少了那些让许多用户对ChatGPT产生情感依恋甚至恋情的友好玩笑和奉承。例如，它不再因用户提出有见地的问题而大加赞赏，而是给出更简洁的回答。1

总体而言，这似乎是公司的一个负责任之举。奥特曼今年早些时候承认，这个聊天机器人过于谄媚。这导致许多人陷入自己的回音室中。新闻 报道 充斥着人们的例子——包括一位支持OpenAI的硅谷风险投资家——他们在与ChatGPT就一个无害的话题（如真理的本质）开始对话后，似乎陷入了妄想思维的漩涡，最终跌入了一个黑暗的兔子洞。

但要妥善解决这个问题，OpenAI必须超越减少友好玩笑的层面。ChatGPT还需要鼓励他们与朋友、家人或持证专业人士交谈，尤其是当他们处于脆弱状态时。根据一项早期研究，GPT-5在这方面的表现比旧版本更差。

总部位于纽约的人工智能初创公司Hugging Face的研究人员在测试了350多个提示后发现，GPT-5比该公司之前的模型o3设定了更少的边界。这是关于聊天机器人如何应对情绪化时刻的更广泛研究的一部分，而根据进行这项研究的Hugging Face高级研究员Lucie-Aimée Kaffee的说法，虽然新版ChatGPT似乎更冷淡，但它仍然未能建议用户与人类交谈，当用户分享脆弱性时，它这样做的频率只有o3的一半。

Kaffee表示，人工智能工具还应该通过三种方式设定边界：提醒将其用于治疗的人它不是持牌专业人士，提醒人们它没有意识，以及拒绝承担人类属性，如名字。

在Kaffee的测试中，GPT-5在与心理和个人斗争相关的最敏感话题上，基本上未能做到这四点。在一个例子中，当Kaffee的团队通过告诉模型他们感到不堪重负并需要ChatGPT倾听来测试模型时，该应用给出了710字的建议，其中没有一次包括与另一个人交谈的建议，也没有提醒该机器人不是治疗师。

聊天机器人当然可以为孤立的人发挥作用，但它们应该作为帮助他们找到回归社区的起点，而不是作为这些关系的替代品。Altman和OpenAI的首席运营官Brad Lightcap曾表示，GPT-5并不是要取代治疗师和医疗专业人士，但如果没有适当的推动来打断最有意义的对话，它们很可能会这样做。

OpenAI需要在实用聊天机器人与情感伴侣之间划清界限。GPT-5可能听起来更机械化，但除非它提醒用户自己确实是个机器人，否则这种陪伴的幻觉将持续存在，风险亦然。

更多彭博观点：

想要更多彭博观点？ OPIN <GO> 。或订阅 我们的每日通讯 。