职场中的AI聊天机器人：高效、专横、去人性化——《华尔街日报》

田纳西州查塔努加市——约翰森·布拉格一直以艺术家审视画布般的眼光看待自己销售房屋维修保险的工作。

“我脑海中有一幅提供世界级客户服务的路线图——知道什么能触动人心，什么能赢得信任，“布拉格说，“就像达芬奇作画时的状态。”

作为HomeServe美国公司顶级销售代理之一，布拉格在过去12个月中有11个月都位列公司432名代理的前10%。这家房屋维修服务公司为北美约500万客户提供管道、供暖、制冷和电路维修计划。在城郊宽敞的呼叫中心工作时，他表示成功秘诀很简单：倾听客户需求。

“我不只是照本宣科，“布拉格说，“我会倾听每个人，记住他们的兴趣点。我几乎能让任何人购买任何产品。”

随着业务增长，HomeServe最近聘请了新代理协助布拉格及其同事。这位名为查理的新成员是人工智能驱动的虚拟代理，公司运用谷歌对话式AI平台等技术打造。她每天处理11,400通电话，转接至对应部门，处理理赔并安排维修预约。她会向代理耳语提示客户是否符合特定保险计划，并在屏幕上显示来电原因。

自动化与创新副总裁杰西卡·克劳德表示：“我告诉员工要把查理当作私人助理。”

在查塔努加呼叫中心，查理并非人见人爱。她控制欲强，包括要求客服代表与客户交谈时必须使用特定话术，违规者将受处罚。她还时常将来电转错部门。“我们正凑钱给查理买助听器呢，“布拉格的同事罗伯特·考德威尔说道，这位业绩顶尖的客服代表坐在附近的隔间里。

有时她会给出令人反感的应答建议。查理最近告诉布拉格先生，有位来电者想申请维修计划。她没理解对方是因水管爆裂正在等待维修，且情绪暴怒。当布拉格接起电话复述查理指示的"了解到您想办理登记"时，对方瞬间暴跳如雷。

“我从不照本宣科”，家庭服务公司客服代表乔纳森·布拉格在田纳西州查塔努加办公室表示。管理层却对查理的高效赞不绝口，即将予以晋升。很快她将开始具体指导客服代表的言行，并给人类员工的工作表现打分。

“她本该让工作更轻松，而不只是对我们发号施令，“布拉格说。他担心查理错误太多：“我是业绩冠军，她可不是我上司。”

“大规模重构”

新一代人工智能正在美国职场铺开，正引发人机之间的权力博弈。

ChatGPT等技术的最新进展，以及自然语言处理和生物识别技术，加上可用于训练算法的大量数据，加速了从飞行员、焊工到收银员和餐饮服务员等某些工作完全自动化的努力。麦肯锡公司估计，到2030年，美国所有职业中25%的工作活动可能实现自动化。

然而，如今人工智能的最大影响来自改变工作而非取代它们。“我不认为就业末日即将来临。但我确实看到了大规模的结构调整和重组——而且工作质量是个问题，“斯坦福数字经济实验室主任埃里克·布林约尔松说。麦肯锡估计，在美国劳工统计局列出的800个职业中，60%的职业在未来几十年内可能会有三分之一的工作活动实现自动化。

对工人来说，这项技术有望消除数据处理和密码重置等枯燥、重复性工作的苦差事，同时综合可以即时访问的大量信息。

但劳工专家、学者和工人表示，当人工智能处理简单事务时，人类往往要承担更复杂、更紧张的工作量。当像查理这样的算法承担更多人类决策时，拥有高级技能和多年经验的工人可能会发现他们的角色被削弱了。当人工智能被用来评分人类行为和情绪时，员工表示这项技术不可靠，容易产生偏见。

最富成效的试验场之一是呼叫中心，或被劳工专家称为"信息经济工厂"的场所，而HomeServe是早期采用者之一。整个行业对员工的考核涉及从"平均处理时长"到"首次通话解决率"等数十项指标，员工倦怠率居高不下。根据市场研究机构Customer Management Practice在2022年4月至6月对1000名员工的调查显示，65%的客服代表预计将在未来两年内离职。

HomeServe查塔努加呼叫中心的员工们，这里由AI驱动的机器人Charlie正在承担越来越多的工作任务。支持者表示，人工智能通过处理单调任务和决策压力有望解决大部分问题。近年来，企业开始使用机器学习模型扫描分析客服与客户的对话。会话分析技术能快速识别客户表达的关键词和情绪以发现规律，可监测每位客服的表现并推荐下一步应答策略。

“新型AI技术帮助客服卸下决策负担，让他们能够专注执行，“会话分析初创公司Cresta的客户成功经理Brittany Bell在近期演讲中表示，该公司客户包括美国运通、Cox通信公司以及Signet珠宝商旗下Blue Nile等企业。

当人类将决策权交给机器时，他们便不再运用自身的知识与经验——问问那些被谷歌地图取代了街道记忆的出租车司机就知道了。康奈尔大学比较雇佣关系教授弗吉尼亚·德尔加斯特在研究呼叫中心自动化时发现，被算法严密监控、被迫按脚本工作或对工作方式毫无自主权的人类员工更容易产生职业倦怠，且更难解决客户问题。

对话分析公司MosaicVoice首席执行官朱利安·麦卡锡补充道：“在给予座席人员自主权和规定应答话术之间需要取得平衡。”

包括康卡斯特公司、特许通信旗下Spectrum和考克斯通信在内的企业比HomeServe走得更远。它们运用名为情感分析的会话AI技术，通过评估对话的积极性、消极性或中立性，来检测和衡量更主观的人类情绪与行为。部分模型通过词汇和语境为对话评分，另一些则加入音高、语调和节奏等参数。康卡斯特会分析大多数客户与座席的对话，并根据"热情友好"“化繁为简"等行为标准对员工进行评分。

在对多家企业的采访中，呼叫中心座席人员表示看重AI快速获取信息以辅助决策的能力。但许多人反对被迫采用AI生成的建议，或违背自身判断念诵脚本话术。数位受访者表示，依赖基于情感分析等主观指标的自动化绩效评估令他们感到不适。

“对于一台没有情感的机器人来说，要真正判断通话进展非常困难，”莉丝·希尔德布兰德·斯特恩说道。她因AI评分系统缺乏人情味及由此带来的压力，在Spectrum工作九个月后于去年离职。“我的绩效数据受到影响，因为这个系统无法像人类那样根据我的态度来评估我。”

‘你好，我是查理’

当HomeServe决定引入查理时，公司高管希望确保员工将她视为合作伙伴。

“我认为当人们开始思考人工智能时，很多人会说，‘我要失业了。’对我们中心来说，重要的是让他们知道这不是要取代他们的工作，而是增强他们的工作能力，”HomeServe副总裁克劳德女士表示。

为了让查理更具人性化，创意团队开发了一个能代表员工的虚拟形象。她是一位42岁的混血棕发女性，来自俄亥俄州，喜欢爵士乐，有两个孩子。（克劳德女士解释说，选择中西部背景是因为她没有口音，而选择爵士乐是因为人们可能在社区里听到这种音乐。）管理层要求客服人员为机器人推荐一个中性名字。查理最终胜过了德文、麦肯齐和杰西。莎拉（“HomeServe自助机器人代理”的首字母缩写）因过于缺乏人情味而被否决。

查理最初负责简单的任务，比如问候来电者，说“你好，我是查理，你的数字助理”，并询问基本问题，例如“请告诉我你今天打电话的原因”。克劳德女士表示，在学会将来电者转接到正确的部门后，她能够将平均处理时间减少36秒，即超过10%。

查理学得很快。到了深秋时节，她已经能熟练处理漏水索赔案件（“这是严重漏水吗？"），同时运用共情技巧（“听到您家漏水我深感抱歉”）并判断问题紧急程度（“您能自行关闭水源吗？"）。随后她会预约维修承包商上门服务。从接案到结案，查理的处理时间不到两分钟，而人工客服平均需要八分钟。目前她处理了15%的理赔案件，预计明年将提升至20%。首席转型官金·拉特克利夫表示，希望查理最终能接管40%的客服来电。

“查理介入后，客户问题的解决时间显著缩短，“HomeServe美国公司首席执行官汤姆·鲁辛说。在十二月的特大暴风雪期间，她帮助了1万名客户（相当于受灾总数的12%）完成理赔登记和维修预约，全程无需人工坐席介入。按此效率，她的购置成本将在18个月内回本。“每年为我们减少数十万分钟的通话时长，“鲁辛先生指出，“而每一分钟都价值不菲。”

鲁辛坦言查理在训练过程中经历了成长阵痛：“初期我们必须重新梳理客服人员多年积累的经验，再将这些知识传授给电脑系统。“在HomeServe英国分部，英版查理"汉娜"曾持续误将电话转接至非水务维修部门，直到程序员发现她因英国口音将"漏水（leak）“误听为"湖泊（lake）"。数据科学家发现这个错误后，问题很快得到解决。鲁辛确信查理早期的失误都将逐步完善。

“起初需要投入大量时间，但我认为之后增长会呈指数级上升，”鲁辛先生表示。

压力攀升

著名经济学家约翰·梅纳德·凯恩斯曾预言，科技将消除工作的单调性，让人类减少劳碌、享受生活。企业未曾料到的是，日常通话中的寒暄能让员工稍作喘息，也是人们建立联系的愉快方式。当这种交流消失后，剩下的工作就变得复杂、紧张且充满压力。

在HomeServe公司，通话量有所增加。客服人员处理的来电也更为复杂。“客服接到的都是查理（AI）无法解决的电话，”HomeServe维修部经理凯特琳·杜瓦尔说，“这类通话占比越来越大。现在接起电话时，客户往往有三个问题而非一个。这对客户是好事，但客服压力更大了。”

曾在威斯康星州阿普尔顿Spectrum呼叫中心工作的客服希尔德布兰德·斯特恩女士表示，既要达成AI设定的绩效指标，又要应对经常辱骂她的愤怒来电者，双重压力令她不堪重负。

她成年后一直从事客服工作，做过酒店前台经理、零售和快餐店收银员，本以为呼叫中心工作会很有成就感。尽管她乐于帮助客户，但AI生成的情绪评分总给她打低分。她表示自己患有耳鸣且说话语调单一，当来电者轻声细语时常常听不清楚。

她说AI会因未使用特定关键词扣分，但她始终不知道具体该说什么词。主管听过她的通话后告诉她：“听起来你做得非常棒。”

为了试图放松，她晚上回家后会坐在电视机前，一边吃通心粉和奶酪，一边看三四集《法律与秩序：特殊受害者》的重播。“我试图把一整天从记忆中抹去，第二天以更好的态度回来。”

她说，随着时间推移，愤怒的客户不断来电，她的自动情绪评分持续下降。尽管这份工作每小时支付20美元，还包含免费有线电视套餐，但她认为不值得付出这样的代价。“我到了无法再抹去它的地步。“工作九个月后，她辞职了。

Spectrum母公司Charter Communications的发言人表示，公司将情绪分析作为绩效评估的一部分，但员工也会得到人工反馈。他说该系统不会对员工或客户的音高或语调进行评分，这些分析是评估客户对公司感受和衡量客服表现的宝贵资源。

机器人同理心

情绪分析已成为客户服务分析中最热门、最具争议的新领域之一。软件分析公司Nice是该领域的先驱，其客户包括美国航空集团、Radisson酒店集团、摩根士丹利、华特迪士尼、康卡斯特和Teleflora等。

2014年接任Nice CEO的前以色列军事情报官员Barak Eilam表示，终极目标是确定客户意图。Nice的Enlighten情绪分析通过分析"说话内容和表达方式"来判断客户需求。根据公司营销材料和数字销售全球副总裁Kevin Lee的说法，该技术利用词汇及其使用背景，以及音高、语调和节奏的变化来分析客户情绪。

在新泽西州霍博肯的公司办公室进行的一次演示中，一个桌面仪表盘展示了酒店客人与预订代理之间模拟对话的进展。

以下是该互动过程的重现：

李先生说，这种指导就像汽车的碰撞检测系统，会提醒代理和经理对话即将陷入僵局，并提供避免这种情况的建议。

Nice公司后来表示，其技术不再使用语气和音高测量，因为这些指标"未能提供有意义的价值”，但未进一步说明其产品具体如何改变。

电信巨头康卡斯特使用Nice Enlighten系统来检测客户情绪，并对客服人员与客户的大部分对话进行绩效评分。该公司表示，每次通话的详细反馈使评分更加准确和精确。

在宾夕法尼亚州黎巴嫩市担任康卡斯特客户体验代理7年半的查西蒂·米勒认为，AI情绪评分更科学，更不容易出现不一致和人为错误，因为评分基于她所有的互动，而不仅仅是之前由人类经理每周评估的一两次互动。

“我的得分非常高，“她说。系统会因某些词汇选择而奖励代理，比如"大使”、“超快"和"让我总结一下我们今天做的所有事情”，这些词汇她很容易使用。她说，主管告诉她系统会测量语气和音高。她说自己说话时声音充满热情的起伏，AI对此评分很高。“我可以说’你是个废物！‘但如果我在句尾用上扬的语调说，AI就会喜欢，“她说。

她表示，呼叫中心的许多同事如果说话带口音或语调缺乏情感，评分就会很挣扎。“我不认为我的表现更出色，“她说，“但对男性声音或口音存在偏见。许多资深客服都没能说出那些神奇的关键词。”

另外三名接受Enlighten系统评分的康卡斯特客服表示，他们担心该模型存在偏袒特定群体的倾向。一位带菲律宾口音、在公司工作九年的前客服透露，在AI评分实施前，她持续获得"高效"评级并连续四年位列百佳客服，这使她享有优先排班权。但启用AI评分后，尽管主管确认她使用了正确话术，情感分数仍跌破达标线。她已于去年12月离职，转投未使用AI的呼叫中心。

客服人员反映，尽管晋升加薪取决于评分，但他们通常无法对AI评分提出异议。

康卡斯特发言人丹尼尔·弗里德曼表示，绩效评分基于通话记录中的词汇短语。他承认最初包含音高语调分析，但因无法提升评分准确性已停用该功能。该AI通过"客户意图识别”、“全程保持友善态度"和"建立个人联系"等维度来评估"热情友好"等服务指标。

弗里德曼称，客服人员可随时向主管或在定期小组会议上对AI评分提出质疑。

‘最佳下一步行动’

HomeServe今年对Charlie制定了宏大计划。该公司将为客服人员推出实时指导功能，建议他们接下来该说什么或做什么。“它会自动填充对话脚本，这样（客服）就不必费心思考如何开启对话，“克劳德女士表示。

她介绍，客服屏幕上的弹窗会提示"最佳下一步行动”。系统可能检测到客户已购买燃气管线保险，就会建议客服同时推销水管保险。Charlie还会指导客服的说话方式。“她可能会说’这里停顿太久了’或’你语速太快了’，“克劳德女士说。她强调是否采纳Charlie的建议完全自愿。另一项计划是：Charlie将开始对客服人员的通话表现进行评分。

公司承认仍有少数客服尚未接受Charlie，并表示已举办多次意见征集会。发言人表示，目前每天使用Charlie提供数据的客服占比已从2021年的70%升至90%以上。与此同时，客户满意度自Charlie启用以来略有提升，HomeServe计划继续发挥其作用。

“我认为没有什么是禁区，因为我们必须让客户以最舒适的方式完成交易，“首席执行官鲁辛先生说，“所以我的理念是——实现全面自动化。最终选择权始终在消费者手中。”

罗伯特·考德威尔在餐饮业工作了35年，他说现在非常享受为家庭推销保险计划的工作。“你能真切感受到自己在帮助别人，“他说，“有时候他们自己都没意识到。”

作为HomeServe公司五年的客服代表，他一直是部门里的顶级销售员，喜欢用自己的亲身经历与客户交流以赢得信任。“如果查理卖出一份计划，我就能卖出四份，”他说。

考德威尔先生穿着一件笔挺的红色棉衬衫，口袋上方印有“HomeServe”标志，戴好耳机，俯身在键盘上，点击接听了当天的第26个电话。一位来自加利福尼亚州赛普拉斯的女士想更改账单支付方式。在等待考德威尔操作时，她问他是否还需要继续购买保险。

“我靠固定收入生活，”她说，“我是个老太太。我的房子很旧，所有东西都老旧。继续选择你们有什么好处？”

HomeServe客服代表罗伯特·考德威尔：“我真的觉得你是在帮助人们。”考德威尔询问了她的水管和下水道管道的使用年限，确认至少有60年历史。他说，这么老的管道不应该冒险停保，因为“不是会不会破裂的问题，而是什么时候会破裂。2013年我就遇到过这种情况，不得不支付了4700美元。”

赢得她的信任后，推销内部管道计划变得轻而易举。但他犹豫了。“如果她连现在的账单都负担不起，我实在不忍心再增加25美元的费用，”他说，“我能想象这位80多岁的女士，不得不在买药和买我的HomeServe计划之间做选择。”

一位更年轻的代理人本会向她推销附加计划，他说，而查理则会处理账单变更，很可能完全忽略她的后续问题。有时，最佳行动方案是无法用算法编程的。“这就是那种感觉不对劲的情况之一，”他说。

写信给丽莎·班农，邮箱：[email protected]

刊登于2023年2月18日印刷版，标题为《人工智能进入办公室。它专横、高效且去人性化》。