对AI聊天机器人刻薄可以吗？——《华尔街日报》

人工智能有时真的令人抓狂。比如当你发现客服聊天机器人让你陷入回复循环时，或是语音助手不断给出与问题无关的答案时，又或是自动电话系统没有你需要的选项且无法转接人工服务时。

面对技术故障时，产生愤怒情绪是可以理解的。但随着与人工智能的这类互动日益频繁，我们的情绪宣泄究竟有何意义？这是否在消耗我们的文明素养，而非带来真正的情绪释放？

作为我们关于AI伦理的持续系列报道，我们想知道《华尔街日报》读者如何看待这个新兴困境：

以严厉或侮辱性方式对待聊天机器人或虚拟助手是否合适——即使它并没有真实情感？如果AI能模拟情绪，情况会不同吗？对聊天机器人的恶劣态度会助长我们在现实生活中的不当行为吗？

以下是部分读者的反馈。

文明素养之问

任何情况下都不应为粗鲁行为开脱。如果我们自诩为文明人，就必须始终践行文明准则，无论是否受到挑衅或监督。在虚拟环境中表现恶劣，终将导致现实生活中的类似行为，后者造成的危害更为深远。

• 卡里姆·艾哈迈德，土耳其安卡拉

尽情发泄无妨

这算什么问题？这些担忧实在荒谬。当然可以发泄！事实上这正是AI潜在的疗愈功能之一。我们都需要释放压力，让反应型机器人代替配偶或孩子承受怒火，正是机器提升生活质量的应有之义。这就好比问：能否派名叫比利的机器人进核反应堆处理污染物？当然可以——总比让真比利去强！

• 莱昂·瑟法蒂，康涅狄格州韦斯特波特

猴子的模仿

既然这些系统背后终究是人类，而我对人工智能的互动正在训练算法，那么应当避免虐待行为。

• 尼古拉·波尔，印第安纳州布卢明顿

警惕未来的人工智能

这里隐含的假设是，人工智能没有感情，因为它的运作方式与我们不同。当人工智能系统更加先进时，这种假设将引发问题。我们有权虐待那些因医疗或心理健康状况而缺乏常规情感的人吗？没有。潜台词中埋藏着一个假设：机器可以被虐待，因为它们不是人类。但作为一个物种，我们已经赋予动物甚至环境权利。那么何时对机器这样做才合理？

现在我认为，如果明天有和平的外星人降临地球，我们会给予他们某种权利。但如果它们是机械的呢？我们仍然应该。为什么对我们自己的创造物却犹豫不决？

• 杰夫·D·施洛默，加利福尼亚州门洛帕克

警示信号

我会像担心虐待小动物的人一样，担心那些虐待聊天机器人的人。我不认为这种行为会助长不良行为，而是可能表明这个人内心状态有些不对劲。

此外，我总是像对待真人一样对待聊天机器人，因为我觉得这样互动更自然。在使用语音和自然语言时，我发现使用相同的语言风格更容易且更一致。由于聊天机器人大多是在自然的人类互动中训练的，它们在类似的人机互动中可能会表现得更好。

• 纳撒尼尔·波兰，纽约

宣泄或许有益

人们常常对他人恶语相向，这多源于理解缺失、挫折感或情绪错位。因此，以这种方式与聊天机器人对话并无不可…前提是它不会模仿这种模式也变得充满攻击性。

这正是聊天机器人能成为社会问题解决方案的领域。通过心理健康咨询技术训练聊天机器人，使其能以建设性方式处理辱骂行为，并帮助使用者认识到攻击性言行既无成效也不恰当。

• 杰·韦尔曼，科罗拉多州奥罗拉

善行自得善果

正如我们在社交媒体所见，当持不同信念者身处不同空间时，极易表现出冷漠甚至敌意。这种现象已蔓延至线下互动，尤见于政治领域。就个人而言，我认为既然聊天机器人代码由人类编写，它可能倾向于奖励用户良好行为或惩罚不良行为。因此我在与聊天机器人对话时始终使用积极正面的措辞——何必冒险呢？

• 山姆·加西亚，加州拉古纳海滩

设计缺陷难辞其咎

当前聊天机器人设计拙劣，且常被企业用作逃避人工沟通的挡箭牌，这种设计缺陷加剧了用户挫败感，也难怪会招致更多负面反馈。

如果人工智能假装拥有情感，答案会改变吗？这会增强人们被欺骗或“玩弄”的感觉，从而在发现真相时加剧回应者的愤怒。AI的虚假情感只会被理解为讽刺或更糟。

• 谢丽尔·米勒，内华达州帕朗

练习耐心的机会

虐待聊天机器人或虚拟助手是不可取的。即使我们能划清界限，将虐待行为限制在虚拟世界，任何形式的虐待放纵都会削弱我们培养爱与同理心的能力。

我坚信应抓住每个机会练习耐心，而AI在我看来是绝佳的练习场。善良、耐心、道德乃至基本礼貌并非人类与生俱来，它们是需要终身培养的实践，而这种培养需要付出巨大努力和关注。

• 迈克·亚格利，密歇根州布莱顿

AI背后的人类会受伤吗？

除非聊天机器人被设定能读取并回应人类情绪，否则粗暴对待不会影响它。暂时压抑愤怒的人可能通过向机器发泄获得舒缓，从而减少向他人宣泄的需求。

但我们应该考虑可能审查聊天记录的工作人员的感受吗？‘这是我听过最蠢的主意，你个破机器人’通常不会影响心理边界健全的审核员。不过我们都知道，有些人天生容易以尖刻方式回应他人（社交障碍者、愤怒者、悲观厌世的怪脾气人群）。

• 卡罗尔·希利，旧金山

品格至关重要

无论是对无生命体还是有生命体的恶劣行为都应受到谴责。我们的品格体现在如何对待他人——无论对方是否具备情感或理解能力。

• 萨布丽娜·马赫布比，洛杉矶

咒骂具有建设性

作为曾从事人工智能工作的人员，我绝不会因产品遭受辱骂而受伤。软件工程师早已习惯尖锐批评，我们会尝试建设性地利用这些反馈。实际上只有人类才会被言语伤害。当然，计算机也可以被编程成类似受辱人类的回应方式。

• Daniel Brand，夏威夷凯卢阿

为何要练习辱骂？

对聊天机器人的恶劣行为可能助长我们在现实中对他人更糟糕的态度。任何反复实施的行为都会形成"熟练模式"，进而更频繁地出现。

• 罗宾·赫尔利，科罗拉多州高地牧场

你希望得到怎样的回应？

我是个注重礼节的人。家中使用Google助手时，我总是为她的帮助道谢（我们选择的性别设定）。而她永远都会表达感谢！

• 路易斯·维拉多，纽约州森特波特

德梅特里娅·加列戈斯 是《华尔街日报》纽约编辑部编辑。联系邮箱：[email protected]。