AI会议记录员让我感到不适——彭博社
Chris Stokel-Walker
插图:Joonho Ko为彭博社绘制
请别再邀请AI会议记录员参会了(音频)
6:25
让开点,“这个会议本可以是一封邮件。”新的办公室抱怨可能很快就会变成,“谁邀请了AI会议记录员?”
微软公司、谷歌和一堆小公司最近几个月都推出了人工智能驱动的会议记录工具。这些机器人会旁听会议,转录所说的内容并总结要点。背后的科技公司可能会将其视为效率提升的一步,但这项技术引发了关于礼仪和隐私的令人不安的问题,并有可能削弱它本应改善的沟通。
旧金山科技投资公司Marathon Management Partners的联合创始人Gokul Rajaram表示,他最近参加的会议中有80%都有AI会议记录员。有时,不同与会者带来的两个或更多机器人会同时进行转录和总结。Rajaram说,这些记录员在不断改进他们综合讨论内容的能力:“对于那些没有参加会议的人来说,这是了解会议内容的好方法。即使对于那些参加会议的人来说,现在也省去了做笔记的麻烦。”
但他也担忧人工智能可能基于其训练数据“虚构”引述,或将发言内容曲解为原本未表达的意思——以及会议结束后信息的去向问题。“这不仅仅是做笔记,”拉贾拉姆说,“它是在记录你的声音。”
这触及了新商业伦理难题中最关键的问题。
去年当我首次在Zoom会议中遭遇一群AI笔记工具时,我大吃一惊。意识到对话将被AI记录和总结后,我的发言内容发生了改变。这感觉像是一种侵犯,仿佛我失去了对信息后续处理的控制权。我的言论可能被断章取义并用于对我不利。我的想法和话语,可能成为某家从未听闻的科技公司的训练数据。(这些笔记工具主要出现在虚拟会议中,但通过笔记本电脑或智能手机,它们也能存在于现实会议。)
AI公司Hugging Face的首席伦理科学家玛格丽特·米切尔表示,使用AI笔记工具更接近于会议录音而非自主记录。“相关录音礼仪同样适用,”她说。例如,使用AI笔记工具者应告知与会者,并赋予他们否决AI参与的权利。
米切尔指出,这些工具触及了重大技术议题。“当寻求在传统人类任务中实现更多自动化时,我们便将控制权、权力和隐私让渡给AI系统及其所属公司,”她说。她还担心这些机器人的局限性:“AI笔记缺失人类记录者具备的关键要素——来自发言者的非语言暗示。”会议中的讽刺笑话经过AI系统运算后,可能变成一项待办事项。
针对该问题的技术增强方案可能是让AI笔记员同时整合视觉处理功能。“但这又涉及监控问题,“她说道——而你周一早晨疲惫的面容将成为又一个对你不利的数据点。
插图:Joonho Ko为彭博社绘制记录职场每次互动与言论的浪潮并非新鲜事。留存书面记录历来被视为有益之举,而决策与行动要点的记录正是会议价值的体现。如今的不同在于,新技术缺乏会议室人际互动中与生俱来的微妙理解和深度。
从某些方面看,前代通讯工具如即时通讯服务Slack已衍生出新的问题。原本通过邮件私下传递的信息变得高度透明,形成雷区——一个不当用词或表情选择就可能引爆同事争端。笔记工具同样存在类似风险。AI记录分析的每句话都可能引发误判与误解。
训练数据
德克萨斯大学奥斯汀分校麦库姆斯商学院管理学助理教授安德鲁·布罗德斯基指出,任何考虑在会议中使用AI笔记员的人都必须考量其他与会者的反应。同事可能认为你想更专注讨论内容同时确保记录完整,也可能觉得"你连笔记都不愿自己做,根本不在乎讨论内容”。
对于销售这些AI入侵工具的公司来说,利益是显而易见的。他们深知人类很容易被诱导改变行为模式,并会迅速依赖那些我们过去多年本不需要也能生存的工具。AI转录服务Otter每年都愉快地从我账户划走240美元,尽管其AI摘要功能效果有限(它对我与布罗德斯基通话的分析仅生成两条建议:“联系编辑发送文章"和"欢迎随时联系安德鲁获取更多观点或讨论”)。但若问是否愿意回归手工转录采访的日子,我定会嗤之以鼻——尽管在Otter出现前我确实这么做了多年。
科技公司让我们沉迷AI记事工具还有更深层动机:AI系统的训练数据正变得越来越难获取。研究机构Epoch AI预测,到明年可用文本数据或将面临枯竭。随着媒体机构纷纷对AI公司发起诉讼,指控其掠夺内容资源,科技企业正在疯狂寻找替代数据源。全球数百万场会议的记录或许正是理想选择。
然而对我们这些数据提供者而言,情况更为复杂。关键在于AI记事工具是否会让本就低效的办公会议雪上加霜。有人认为会议本是同事间人际交流的重要契机,那些看似无用的寒暄往往孕育着绝妙创意——这也正是众多公司强制员工返岗的公开理由。
但如果员工用面对面的交流换取AI的复述,同事因害怕被机器人曝光而克制自己的言辞和想法,那还剩下什么?如果人类退后一步,剩下的就只有一系列数据点和更多污染我们生活的AI垃圾。