《华尔街日报》："我死在那一天"——AI技术重现枪击案遇难儿童的声音

佛罗里达州帕克兰——立法者们开始接到一群令人惊讶的孩子的来电——已故的孩子们。

乌兹·加西亚：“我是德克萨斯州乌瓦尔德市罗伯小学四年级学生。或者说曾经是，直到一个拿着AR-15步枪的男人闯入我的学校，杀害了我的18名同学、两位老师和我。”˿ 点击收听AI语音

伊森·宋：“2018年，15岁的我在朋友家被一把未妥善保管的枪夺去了生命。”

还有17岁的华金·奥利弗：“问题是，我在帕克兰那天就死了。我的身体被战争武器摧毁了。”

接着他们都会说类似这样的话：“我今天回来，是因为我的父母用AI重现了我的声音来给你打电话。”

这些自动电话——始于造成17人死亡的帕克兰校园枪击案六周年纪念日——是一项旨在提高枪支安全意识、推动更严格控枪的运动的一部分。但这篇专栏讨论的不是枪支政策，而是人工智能的一个决定性时刻，以及利用深度伪造技术传播信息、连通逝者的做法。

这听起来像是《黑镜》中的一集，而这种超现实感似乎至少在一定程度上是重点所在。

华金的父母帕特里夏和曼尼·奥利弗是这个项目的幕后推手。自儿子去世后，他们一直是直言不讳的活动人士，他们表示，这种方法源于挫败感。

华金·奥利弗在佛罗里达州帕克兰高中枪击案中遇害时年仅17岁。插图：《华尔街日报》，帕特里夏·奥利弗“这是美国的问题，而我们一直未能解决，”曼尼在他们家中接受采访时告诉我。“如果需要用令人毛骨悚然的方式解决，那就欢迎来到惊悚世界。”

他们的非营利组织推出了The Shotline网站，用户可选择六段AI生成的电话录音之一，输入邮政编码后直接致电民选代表。

但仅仅因为我们能让这些声音从坟墓中归来，就应该这么做吗？一周前我的答案会是‘呃，啥？’现在与这些父母交谈后，我理解了他们的动机。

声音如何被重现？

这些令人不安的逼真声音由ElevenLabs的AI语音生成器创建。去年我曾用同款服务制作自己的音频克隆，结果骗过了家人和银行。

我上传了近一小时音频供机器学习模型捕捉节奏和语调，然后输入想让深度伪造音频说的话。这些父母没有机会录制孩子清晰的音频，从家庭视频中提取的样本大多夹杂背景杂音或音乐。但该技术已如此先进（且可怕），仅需几秒零散素材就能生成近乎完美的复制品。

当布雷特·克罗斯第一次听到儿子乌兹的声音时，“我痛哭失声，”他告诉我。“每次想起，我都会落泪。”伊森的母亲克里斯汀·宋也表示自己同样泣不成声。

伊森·宋15岁时在朋友家中因一把未上锁的枪支走火意外中弹身亡。插图：《华尔街日报》，克里斯汀·宋帕特里夏说，听到那个声音仿佛华金仍在身边。“简直和他本人一模一样，”她告诉我。“你多希望这是真的。我多希望他能说‘嗨妈妈，你好吗？我爱你’。”

为何要重现这些声音？

决定这些声音该说什么构成了伦理难题。你如何确定逝者会作何感想？如何知晓他们愿意——或不愿——向世界分享什么？

每位受访父母都表示确信：他们的孩子会说希望自己还活着。他们会说不想看到其他孩子遭遇枪击身亡。

华金的父母以他的社交媒体贴文为参照。生前他曾讨论过保护儿童免受枪支和校园枪击伤害。华金的父亲曼尼说，儿子希望被铭记为“伟大的人——像列侬、曼德拉、阿里那样”。他将此视为实现儿子遗愿的方式。

帕特里夏和曼尼·奥利弗聆听六年前在佛罗里达州帕克兰校园枪击案中丧生的儿子华金的AI合成声音。照片：David Hall/《华尔街日报》所有参与的家长都强烈认为，这将有助于巩固他们孩子的遗产，并为面临枪支暴力风险的儿童带来新的保护措施。曼尼表示，其他在枪击事件中失去孩子的父母（包括帕克兰事件的其他家长）选择不参与该项目。（帕特里夏提到，他们家族反枪支暴力的非营利组织"Change the Ref"主要依靠外展活动的小额捐款维持运营。）

借助ChatGPT和ElevenLabs等工具，现在可以训练聊天机器人在开放式对话中模拟特定人物。在我几年前制作的纪录片中，曾采访过James Vlahos，他使用更基础的技术与已故父亲对话——即"爸爸机器人"。

但这些父母对创建孩子的复制机器人并不感兴趣。实际上，所有语音信息都经过严格脚本控制，时长不超过一分钟。“我不想复制华金，“帕特里夏告诉我，“那不会让华金复活。”

是否应该复活逝者的声音？

与AI其他应用场景类似，这种技术可能被恶意使用的风险令人担忧。试想这些孩子的声音可能被用来传播虚假信息或仇恨言论。美国联邦通信委员会刚刚禁止了诈骗机器人电话中使用音频深度伪造，指出已有民众被仿冒亲友或同事声音所骗。

近期，已故名人如罗宾·威廉姆斯和乔治·卡林的AI语音克隆内容在网络上出现，引发了家属的强烈反对。

现代遗产规划通常包含对社交媒体等网络账号的身后安排。高兹菲茨帕特里克律师事务所信托与遗产部门负责人艾莉森·阿登·贝桑德指出，未来人们还需在遗嘱中明确是否允许死后用AI技术再现自己的音容笑貌。

语音克隆公司ElevenLabs联合创始人马蒂·斯坦尼舍夫斯基表示，若遗产继承人拥有相应权利和授权，公司允许用户复制逝者声音。贝桑德解释道，名人更倾向于在遗产规划中明确其肖像和声音的使用权。她补充说，现行法律尚未明确未成年逝者父母是否拥有子女形象权。

乌兹·加西亚在得州乌瓦尔德校园枪击案中遇难时年仅10岁。插图：《华尔街日报》，布雷特·克罗斯在报道死亡与科技交汇议题过程中，我领悟到两个关键点：第一，每个人处理哀伤的方式都是独特的。

“当最后一个记得你的人离开时，你才真正逝去，“乌兹的父亲布雷特告诉我，“所以在我余下的岁月里，我会不断向世界介绍他，让他的记忆比我更长久。”

第二，科技将持续改变我们缅怀逝者的方式。若认为现有技术已令人震惊，不妨再等待数年发展。

有人会觉得它令人毛骨悚然，也有人认为它将改变世界。这两种看法可能都没错。

——在此订阅乔安娜·斯特恩的每周通讯《科技那些事》**。如今万物皆科技。专栏作家乔安娜·斯特恩将作为您的向导，分析并解答关于这个永远互联世界的种种疑问。

联系乔安娜·斯特恩请致信 [email protected]