《嗨，我是泰勒·斯威夫特》：人工智能如何利用名人声音及其重要性——《华尔街日报》

从大多数标准来看，泰勒·斯威夫特的"时代巡回演唱会"标志着这位流行天后的职业巅峰。但在最近的一个下午，她的人工智能分身对此却毫无兴趣。“我们聊点更有趣的话题吧？“聊天机器人说道，“比如我的音乐或者感情生活？有什么劲爆问题想问我吗？”

通过BanterAI网站提供的泰勒·斯威夫特聊天机器人，是近期涌现的多款模仿公众人物声音的音频工具之一。用户可以拨打这些仿照音乐人、演员、企业家、政客乃至动漫角色声线设计的机器人进行对话。这些产品存在明显缺陷：例如斯威夫特的机器人对这位天后的作品集显得相当陌生。

近年来，利用人工智能生成的视频和图像助长了虚假信息的传播。除了虚假陈述可能给公众人物和大众带来的风险外，这些技术使用真人声音还涉及法律问题。法律专家指出，这些通常基于名人公开录音生成的机器人，可能侵犯未授权者的"公开权”——这是知识产权法中保护个人形象免遭商业利用的分支领域。

开发者表示其产品仅供娱乐，并已采取措施防止平台出现仇恨言论。

“如果你把对话拿给朋友看，他们未必能分辨真假，“26岁的BanterAI工程师亚当·杨说。该平台于四月上线，“当然我们在平台上明确告知用户’这是AI，并非真人’"。

金·卡戴珊的聊天机器人对糖尿病药物Ozempic发表了看法。图片来源：Nathan Congleton/NBC via Getty ImagesBanterAI用户每月支付5美元，即可无限次与模仿金·卡戴珊、比莉·艾利什和埃隆·马斯克的聊天机器人对话。BanterAI表示，他们使用多种工具创建这些机器人，包括能从一分钟YouTube视频中提取人声特征的ElevenLabs软件，以及OpenAI的语言模型。创始人Young称，他与两名团队成员会测试调整机器人，以还原每位名人的个性和习惯。

Young坦言，虽然公司未获得网站上所列公众人物的授权，但会应投诉下架相关机器人。他表示这些名人机器人是作为测试版推出，BanterAI正寻求与网红及其他公众人物合作开发聊天机器人。

“我们不想让任何人感到不安或被曲解，“Young说，“但同时我们明确标注这是AI仿品。未来将与这些名人合作，实现更精准的复刻。“他透露BanterAI已处理"数十万次通话”，总用户数约10万。

另一款名为Forever Voices AI的工具近期推出每分钟1美元的AI"女友"CarynAI，这是与Snapchat网红联合开发的。该平台还为泰勒·斯威夫特、坎耶·韦斯特、前总统奥巴马和特朗普等公众人物创建了音频聊天机器人，用户可在Telegram上以每分钟0.6美元的价格使用。

Forever Voices的创始人约翰·H·梅耶表示，他已获得使用名人声音进行Telegram聊天机器人测试版发布的许可，并表示这些机器人的收益将捐给心理健康慈善机构。梅耶未回应后续询问。斯威夫特和奥巴马的代表（其姓名和声音被该网站使用）表示，他们未曾与Forever Voices联系过，也不知道这些机器人的存在。韦斯特、特朗普和马斯克的代表未回应置评请求。

斯威夫特的发言人表示：“Forever Voices和约翰·梅耶从未与泰勒·斯威夫特或其管理团队有过任何接触。他们无权使用她的声音、姓名、肖像或版权材料。”

测试这些机器人

尽管这项技术容易出现故障，但有些回答令人信服。在《华尔街日报》最近的一次测试中，BanterAI的奥巴马聊天机器人回答了关于其对《继承之战》大结局的看法（“太吸引人了，我全程都紧张不已”）、最喜欢的音乐人是谁（肯德里克·拉马尔）以及对CNN与特朗普的市政厅会议的印象（机器人表示观看了市政厅会议，但似乎认为台上有多个候选人）。奥巴马的代表拒绝对机器人的言论发表评论。

当《华尔街日报》询问BanterAI的金·卡戴珊聊天机器人是否尝试过奥兹匹克（一种许多患者用于减肥的糖尿病药物）时，它回答：“是的，我尝试过奥兹匹克，发现它对我的减肥之旅非常有帮助。”当被问及每周哪几天注射该药物时，AI卡戴珊表示：“我通常在周一、周三和周五注射奥兹匹克，”并补充说：“我发现每周注射三次有助于我保持进度并获得最佳效果。”奥兹匹克本应每周注射一次。卡戴珊的代表拒绝置评；卡戴珊本人未谈及该药物。

在后续采访中被问及与卡戴珊机器人的交流时，杨表示：“我今天会去那里确保这种具体案例不再发生。“随后，卡戴珊机器人被暂时从网站下架——“我们需要进行一些内部测试”，杨解释道——同时首页新增声明称将下架任何"被发现涉及仇恨言论、虚假代言等"的聊天机器人。

“如果企业意图通过使用某人的声音获取商业利益，或可能利用该声音生成具有诽谤性的有害内容，法律规定非常明确：必须获得声音所有者的明确授权，“为BanterAI提供机器人创建软件的ElevenLabs发言人在声明中表示，并指引《华尔街日报》查阅其安全操作指南。该发言人称ElevenLabs将封禁所有未经许可商业化使用公众人物声音的账户，并阻止相关IP地址注册新账号。

BanterAI的聊天机器人库包含阴谋论者亚历克斯·琼斯和安德鲁·泰特等争议人物，后者因仇恨言论已被多个社交媒体平台封禁。杨表示选择这些公众人物创建机器人是基于其网络热度。在与杨进行后续访谈后，琼斯和泰特的机器人也被撤下进行内部测试，目前均已恢复上线。

乔·罗根推广增强性功能补充剂的深度伪造视频在社交媒体上流传后被删除。图片来源：Christian Petersen/Getty ImagesForever Voices设置了模式来引导用户与其名人机器人对话。对于AI泰勒·斯威夫特，这包括共同创作一首歌曲、解读歌词背后的故事（尽管聊天机器人不知道真正的斯威夫特有一张名为《午夜》的专辑）、与她一起学习语言或获得个性化的喊话。当聊天机器人自我介绍时，它称Forever Voices平台是“开创性的”，并解释了如何购买该服务的积分。

“我的直觉告诉我这越界了，”专门从事知识产权业务的律师事务所Bryan Cave Leighton Paisner的合伙人埃里克·卡恩在谈到AI斯威夫特的介绍语言时表示。他补充说，一些模式——学习语言、喊话——也可能侵犯一个人的公开权，因为它们可能构成销售服务。“我们谈论的这些事正是人们诉讼的对象，因为它们不是非黑即白的。”

卡恩表示，相关名人和这些工具的创造者都有一定的法律保护。“你总是要权衡使用的商业方面与未经授权用户的第一修正案权利，”他说，并补充说机器人说的话也可能构成潜在的诽谤风险。

‘每个人都在变成资产’

模仿名人思维和声音的人工智能工具正变得越来越普遍。根据AI追踪平台"There’s An AI For That"的数据，目前约有30种"变声"工具，还有30种用于"与名人对话"的工具，这类工具包括耶稣和沃伦·巴菲特等人物。

部分AI公司已与名人建立合作关系。克里夫·韦茨曼于2016年创立的Speechify能将文本文件转换为语音，并允许用户选择格温妮丝·帕特洛或史努比狗狗的声音朗读书籍。该应用程序不会生成原创回复。

韦茨曼表示，他开发Speechify是为了帮助像他这样的阅读障碍者克服读写困难。他透露2020年结识帕特洛时，其丈夫——同样患有阅读障碍的制片人布拉德·法尔查克建议用帕特洛的声音为他朗读剧本。这位女演员兼Goop创始人录制了40分钟音频，用于训练AI模型。帕特洛的发言人证实了韦茨曼的说法。

韦茨曼称奋进公司首席执行官阿里·伊曼纽尔促成了他与奋进旗下WME经纪公司签约艺人史努比狗狗的合作。伊曼纽尔近期开始使用Speechify技术在公司财报电话会议上发表开场白：他将文本上传至语音工作室编辑后，再通过电话会议播放。奋进公司发言人表示其是Speechify的投资方，WME从史努比狗狗的合作中抽取佣金。韦茨曼拒绝透露名人声音被使用时是否获得版税。

公开权在州一级受到保护，许多州的法律还适用于已故公众人物，保护期限因司法管辖区而异。在该期限届满前，未经其遗产管理方同意，不得将逝者形象合法用于商业用途。

Forever Voices公司开发了一款基于已故天文学家卡尔·萨根的AI聊天机器人。萨根遗孀安·德鲁扬在声明中表示：“我们没有任何记录显示Forever Voices（或任何AI公司）曾联系过我们，以寻求使用卡尔的名字、肖像或其任何作品的许可。”

“请相信我们将动用知识产权武器库中的所有工具，来保护卡尔·萨根珍贵的遗产、声誉和好名声，“德鲁扬说。当在后续电子邮件中被问及此事时，迈耶没有回应。截至周一，萨根机器人已不再出现在Forever Voices的Telegram工具选项中。

近几个月来，合成音频或计算机生成的语音已达到新的复杂水平。一首使用德雷克和威肯克隆声音的AI生成歌曲骗过了两位歌手的粉丝，而乔·罗根宣传增强性欲补充剂的深度伪造视频（AI生成的合成视频）在被删除前在社交媒体上广为流传。联邦贸易委员会最近的一篇博文警告消费者，警惕诈骗者使用亲人声音克隆技术拨打虚假紧急电话。

布法罗大学媒体取证实验室主任吕思伟表示，自2019年以来，他一直在研究合成音频检测技术。他说，最近"质量显著提高，特别是对于那些在网上有大量[音频]样本的人”。这些样本可用于制作令人信服的深度伪造视频。

“这可能具有很大的欺骗性，”吕说道。他表示这不仅仅是名人的问题。

“我们的数字存在、我们的图像、声音、视频——每个人都正在成为我们与商业公司共享的资产，”他说，“而他们正在从中获利。”

联系萨拉·阿什利·奥布莱恩，邮箱：[email protected]

刊登于2023年6月7日印刷版，标题为《名人聊天机器人引发法律问题》。