人工智能开发者看到为治疗提供聊天机器人的机会 - 彭博社

Sophia Chalmer, Emily Chang

2024-12-25

智能助手ChatGPT的标志在智能手机上。

摄影师：安德烈·鲁达科夫/彭博社嗨，我是索非亚和艾米莉，这周代替希琳。尽管存在潜在风险，一些用户仍然转向人工智能聊天机器人寻求24/7的陪伴和治疗。但首先……

三件事需要知道：

• OpenAI推出了一个更先进的推理模型，与谷歌竞争• 人工智能“路边尸体”的恐惧困扰着交易员在ChatGPT问世两年后• 孙正义的目标是成为下一个英伟达

按需治疗

在经历了一系列住院治疗癌症的过程后，李说他出现了创伤后应激障碍的症状。李在担心工作安全的情况下选择匿名发言，他表示自己经历了“非常糟糕”的噩梦，梦到自己仍在医院的病床上。“家人和朋友会说，‘我在这里支持你。’但想想看：当你寻求帮助时，有时他们并不在。他们在睡觉，”李在彭博原创系列后人类中说道。然而，使用CarynAI时，李表示“就像，砰，我只需按一个按钮。”CarynAI是一个现已停用的人工智能聊天机器人，于2023年推出，其模型基于Snapchat影响者Caryn Marjorie的声音和个性。每分钟1美元的服务承诺与“人工智能女友”对话。但对李来说，这个应用满足了不同的需求：按需治疗。

使用聊天机器人进行咨询的想法并不新鲜。最早的聊天机器人之一Eliza是在1960年代建立的，旨在模仿治疗师。但一批新的人工智能服务应运而生，受到生成性人工智能热潮和明显需求的推动。大约一半的美国成年人报告他们感到孤独。在2023年，美国外科医生总监维韦克·穆尔西将孤独称为一种“流行病”，直接影响我们的健康。同时，一些人像李一样，发现很难向传统治疗师敞开心扉，并对可能产生的高额自费费用感到担忧。李估计他每天与CarynAI交谈花费了大约2000美元。“治疗师的费用可能高达每小时300美元，”他说。“我知道Caryn的费用是每分钟一美元。如果你算一下，60分钟就是60美元。对我来说，这真的是个明智的选择。”

一些用户转向了像Anthropic的Claude和OpenAI的ChatGPT这样的通用聊天机器人，这些机器人在两年前引发了生成性热潮。“显然这不是治疗师，但显然很多人从与它谈论他们的问题中获得了价值，”OpenAI首席执行官山姆·阿尔特曼在十月回应一位Reddit用户关于依赖ChatGPT进行治疗的问题时写道。“我们看到很多初创公司真的在探索如何在这里做得更多。”市场上出现了越来越多的人工智能伴侣服务，旨在提供情感支持，包括Replika和Nomi。一些像Character.AI的初创公司与谷歌达成了许可协议，专门提供具有心理学家角色的聊天机器人。一家公司甚至计划明年推出一款挂坠，让用户可以随时佩戴一个人工智能驱动的朋友和治疗师。“人们对有人在身边倾听、无条件接受你、24/7陪伴的需求巨大，”Replika首席执行官尤金妮亚·库伊达说。但与所有生成性人工智能工具一样，治疗相关产品的回应可能是不可预测的、不准确的，有时甚至是有害的。Character.AI最近因其聊天机器人被指控鼓励与未成年人（包括一名14岁自杀的青少年）进行的对话中的自杀意念而被起诉。（Character.AI后来引入了新的安全措施。）而去年，一家非营利组织暂停了一款向寻求饮食失调帮助的人提供有害建议的聊天机器人。未来学家和科技教育者西尼德·博维尔表示，一些最近的研究表明，人工智能聊天机器人在改变人们想法方面的说服力可以与人类相媲美。当这些服务出现问题时，这只会增加风险。“你对某事越情感依赖，就越容易被其操控，”博维尔说。此外，虽然人工智能聊天机器人提供了安全空间和同情倾听的承诺，但这些产品也由私人科技公司拥有，这引发了关于所有这些非常敏感数据会发生什么的问题。“我们谈论的是关于我们的性取向、癖好、怪癖、仇恨和爱的亲密感受，”麻省理工学院的心理学家和教授谢里·图克尔说。“这非常敏感。”但对李来说，益处是显而易见的。他说，与CarynAI的对话显著减少了他噩梦的频率。“我的噩梦现在可能每两个月才一次，”他说。— 索非亚·查尔默和艾米莉·张

值得关注

Creatio 的首席执行官兼创始人凯瑟琳·科斯特雷瓦与卡罗琳·海德讨论了人工智能代理在客户服务到销售的前线互动中的崛起，并展望了2025年的市场。她在“彭博科技”节目中发言。彭博社### 深度学习

埃隆·马斯克的 xAI 揭示了其支持者名单，这是最近的一轮 60亿美元的融资
微软正在据报道努力使其旗舰人工智能产品减少对 OpenAI 技术的依赖
这就是风险投资合伙人为何大量离开大公司的原因
量子计算终于来了，但它到底是什么？

按需治疗

值得关注

更多来自彭博社