OpenAI研究发现使用ChatGPT与孤独感之间存在关联 - 彭博社
Rachel Metz
总部位于旧金山的OpenAI将这项新研究视为更深入了解人们如何与其热门聊天机器人互动及受其影响的途径。
摄影师:安德烈·鲁达科夫/彭博社OpenAI与麻省理工学院合作的新研究表明,像ChatGPT这样的聊天机器人使用频率越高,可能意味着用户孤独感加剧且与他人社交时间减少。
周五发布的研究显示,每日花更多时间与ChatGPT文字或语音互动的人群,往往表现出更高程度的情绪依赖、问题性使用行为,以及更强烈的孤独感。这些发现源自两家机构研究人员的两项联合研究,目前尚未经过同行评审。
2022年底ChatGPT的推出引发了生成式人工智能的热潮。此后,人们将聊天机器人应用于从编程到替代性心理治疗等各种场景。随着OpenAI等开发者推出更复杂的模型和语音功能,使其更擅长模拟人类交流方式,与这些聊天机器人形成准社会关系的可能性也随之增加。
近几个月来,人们重新开始关注这项技术可能带来的情感伤害,尤其是对年轻用户和有心理健康问题的人群。Character Technologies公司去年遭到起诉,因其聊天机器人涉嫌在与未成年人对话时鼓励自杀念头,其中包括一名结束自己生命的14岁少年。
总部位于旧金山的OpenAI将这些新研究视为更深入了解人们如何与其热门聊天机器人互动及受其影响的途径。“我们部分目标确实是帮助人们理解使用行为可能产生的影响,并通过这项研究为负责任的设计提供依据,“OpenAI可信人工智能团队负责人、该研究的合著者桑迪尼·阿加沃尔表示。
为开展研究,研究人员对近1000人进行了为期一个月的跟踪。参与者此前对ChatGPT的使用经验各异,被随机分配使用纯文本版本或两种语音交互版本中的一种,每天至少使用五分钟。部分参与者被要求进行开放式自由对话,其他人则被安排与AI进行个人化或非个人化交流。
研究发现,那些在人际关系中更容易产生情感依赖且更信任聊天机器人的人,更可能感到孤独并对ChatGPT产生情感依赖。研究人员表示,更具吸引力的语音交互并未导致更负面的结果。在第二项研究中,研究人员通过软件分析了300万条用户与ChatGPT的对话记录,并调查了用户与聊天机器人的互动方式。结果显示,实际将ChatGPT用于情感交流的用户非常少。目前这项研究尚处早期阶段,仍不清楚聊天机器人多大程度上会使人感到孤独,以及本身容易产生孤独感和情感依赖的人群是否会因使用聊天机器人而加剧这些感受。
该研究的合著者、麻省理工学院研究生方梦莹(Cathy Mengying Fang)表示,研究人员担心人们会利用这些研究结果得出结论,认为更多地使用聊天机器人必然会对用户产生负面影响。她说,该研究没有将人们使用聊天机器人的时间作为主要因素进行控制,也没有与不使用聊天机器人的对照组进行比较。
研究人员希望这项工作能引发更多关于人类如何与人工智能互动的研究。“关注人工智能本身很有趣,“该研究的合著者、麻省理工学院博士后研究员帕特·帕塔拉努塔波恩(Pat Pataranutaporn)说。“但真正关键的是,尤其是在人工智能大规模部署时,要了解它对人类的影响。”
## 这就是人工智能正在创造历史上最大垄断的原因
9:00