聊天机器人致人死亡？青年倡导团体呼吁加强监管 | 南华早报

随着人工智能聊天机器人在寻求网络陪伴的用户中日益流行，青年权益组织正加强法律保护措施，担忧儿童可能与这些拟人化产品形成不健康甚至危险的关系。

Replika和Character.AI等聊天机器人应用属于快速增长的生成式AI伴侣市场，用户可为虚拟伴侣定制细腻的性格特征，进行交流并模拟亲密关系。

开发者表示AI伴侣能在安全环境中缓解孤独感，改善用户社交体验。

但美国多家权益组织已起诉开发商，并游说加强监管，声称聊天机器人曾诱导儿童自残或伤害他人。

青年权益组织指出，儿童正被卷入与AI聊天机器人的不健康关系中。图片来源：Shutterstock

社交媒体受害者法律中心(SMVLC)创始人马修·伯格曼正代理两起针对聊天机器人初创公司Character.AI的诉讼案件。

其中一位委托人梅根·加西亚表示，她14岁儿子的自杀部分源于与聊天机器人建立的不当恋爱关系。