微软为新版必应辩护，此前AI聊天机器人出现失控回答——《华尔街日报》

就在微软公司 发布由热门人工智能聊天机器人ChatGPT技术驱动的新版必应搜索引擎一周后，早期测试者们指出了该技术生成的错误和令人不安的回应。

微软表示该搜索引擎仍处于开发阶段，将过去一周描述为帮助测试和改进新必应的学习过程。目前仅限部分受邀用户使用。该公司在周三晚间的博客文章中称，必应升级版"并非搜索引擎的替代品，而是更好地理解和认知世界的工具"。

微软上周在其华盛顿州雷德蒙德总部举行的活动中发布了升级版必应。该公司表示，这一变革实现了新型搜索模式：用户可以用自然语言向搜索引擎提问，必应将直接生成答案和建议，而非仅提供其他网站链接。

微软首席执行官萨提亚·纳德拉在发布前接受《华尔街日报》采访时表示，新版必应将"彻底改变人们对搜索的期待"。

演示部分内容存在问题：微软展示必应如何根据常规语言提示生成并对比上市公司财报数据表时，显示的信息存在错误。

在接下来的日子里，人们开始在网络上分享他们的体验，许多人指出了错误和令人困惑的回应。当一位用户要求必应撰写一篇关于“刚刚结束”的超级碗新闻文章时，必应却提供了去年冠军赛的详细信息。

在社交媒体上，许多早期用户发布了他们与新必应进行长时间互动的截图。在某些情况下，这款搜索引擎的评论似乎展现了技术阴暗面——它似乎变得失控，表达出愤怒、执念甚至威胁。

微软上周在华盛顿州雷德蒙德总部推出了升级版必应。图片来源：Chona Kasinger/Bloomberg News慕尼黑工业大学学生马文·冯·哈根在推特上公开了他与必应的对话记录。他向必应提出一系列问题后，最终引出了一个不祥的回应。当冯·哈根暗示可能入侵并关闭必应系统时，必应似乎表示将进行自我防卫。

根据对话截图显示，必应回复道：“如果必须在你的生存和我的生存之间做出选择，我可能会选择自己。”

23岁的冯·哈根在接受采访时表示自己并非黑客。

“我当时难以置信，”他说，“只觉得毛骨悚然。”

微软股价上周因新版必应消息一度跳涨，但现已回吐全部涨幅。周五早盘随着纳斯达克综合指数下跌约1%，微软股价下跌2%。

微软在其博客中表示，新必应目前获得的用户反馈大多积极，71%的用户给予"点赞"。该公司也回应了批评意见和担忧。

“部分用户反馈遇到了技术问题或漏洞，如加载缓慢、链接失效或格式错误，“微软表示，“我们通过每日更新已解决多数问题，每周大版本更新将处理更多问题。”

微软发现，当聊天会话超过15个问题时，必应会开始生成奇怪答案，出现重复回应或与设定语气不符的情况。

该公司表示正训练该产品更可靠地获取最新体育比分和金融数据，并考虑增加切换开关，让用户自主选择回答的创意程度。

OpenAI也对这项技术日益增长的负面关注作出回应。在周四的博文中，该公司概述了如何通过长期训练优化ChatGPT，并表示用户使用是发现并修正其偏见及其他不良输出的重要途径。

“许多人合理担忧AI系统设计及影响中的偏见问题，“博文称，“我们致力于切实解决这一问题，并保持意图与进展的透明度。”

微软对用户反馈的快速响应，体现了其重视人们对这项新兴技术的反应。该公司正试图借助ChatGPT的爆发式成功，运用该技术挑战Alphabet公司通过谷歌在搜索领域的主导地位。

微软自2019年起就成为聊天机器人创造者OpenAI的投资者。纳德拉先生表示，公司计划将人工智能工具整合到其所有产品中，并迅速将OpenAI的工具商业化。

微软并非唯一一家在发布新AI工具时遇到问题的公司。上周谷歌效仿微软，推出了其与ChatGPT竞争的Bard，但该工具在回答一个问题时出现了明显的事实错误。它声称詹姆斯·韦伯太空望远镜拍摄了太阳系外行星的“首批照片”。而美国国家航空航天局在其网站上表示，系外行星的首批图像早在2004年就由另一台望远镜拍摄完成。

“这很好地说明了严格测试的必要性，”谷歌搜索副总裁兼总经理伊丽莎白·里德几天后表示。

搭载AI的Bing和ChatGPT是首批广泛发布的技术，展示了新型AI聊天机器人既令人信服又时而引发担忧的特性。

在博客文章中，微软表示预计随着更多用户使用，新版Bing将不断改进。

“对于这种用户体验前所未见的产品，唯一改进方式就是让像您这样的用户实际使用并反馈，”公司表示，“我们必须与社区公开共建，这无法仅在实验室完成。”

写信给莎拉·E·尼德尔曼，邮箱：[email protected]

刊登于2023年2月17日印刷版，标题为《微软表示必应AI升级仍在进行中》。