《华尔街日报》："我死在了那一天"——AI技术重现枪击案遇难儿童的声音

佛罗里达州帕克兰——立法者们开始接到一群出人意料的孩子的来电——已故的孩子们。

乌兹·加西亚：“我是德克萨斯州乌瓦尔德市罗伯小学四年级学生。至少曾经是，直到一个拿着AR-15步枪的男人闯入我的学校，杀害了18名同学、两位老师和我。”˿ 点击收听AI语音

伊森·宋：“2018年，15岁的我在朋友家被一把未妥善保管的枪夺去了生命。”

还有17岁的华金·奥利弗：“事实是，我在帕克兰那天就死了。我的身体被战争武器摧毁了。”

接着他们都会说类似这样的话：“今天我‘回来’，是因为父母用AI复原了我的声音来联系您。”

这些自动电话——始于造成17人死亡的帕克兰校园枪击案六周年之际——是一项旨在提高枪支安全意识、推动更严格控枪的运动。但本文讨论枪支政策，而是聚焦人工智能的里程碑时刻，以及用深度伪造技术传播信息、连通逝者的伦理边界。

这听起来像《黑镜》的剧情，而超现实感至少部分正是其意义所在。

项目发起者是华金的父母帕特里夏和曼尼·奥利弗。自儿子遇害后成为直言不讳的活动家，他们表示这种手段源于挫败感。

华金·奥利弗在佛罗里达州帕克兰高中枪击案中遇害时年仅17岁。插图：《华尔街日报》，帕特里夏·奥利弗“这是美国的问题，而我们一直未能解决，”曼尼在他们家中接受采访时告诉我。“如果需要用令人毛骨悚然的方式来解决，那就欢迎这种毛骨悚然。”

他们的非营利组织推出了The Shotline网站，你可以选择六段AI生成的电话录音之一，输入邮政编码，直接拨打给你选出的代表。

但仅仅因为我们能让这些声音从坟墓中回来，我们应该这样做吗？一周前，我的回答会是，“呃，什么？”现在，与这些父母交谈后，我理解了他们的动机。

这些声音是如何复活的？

这些令人毛骨悚然的逼真声音是由ElevenLabs的AI语音生成器创建的。去年我曾用同样的服务创建了自己的音频克隆，骗过了我的家人和银行。

我上传了近一小时的音频，让机器学习模型匹配我的节奏和语调。然后输入我希望音频深度伪造说的话。这些父母没有机会录制孩子清晰的音频。大多数从家庭视频中提取的样本都受到背景聊天或音乐的干扰。然而，技术已经变得如此先进（且可怕），只需几秒钟的现有音频就能创建近乎完美的复制品。

当布雷特·克罗斯第一次听到儿子乌兹的声音时，“我痛哭失声，”他告诉我。“每次想起，我都会落泪。”伊森的母亲克里斯汀·宋也表示自己同样泣不成声。

伊森·宋15岁时在朋友家中因一把未妥善保管的枪支走火而意外中弹身亡。插图：《华尔街日报》，克里斯汀·宋帕特里夏说，那个声音让她感觉华金依然在世。“简直和他本人一模一样，”她告诉我。“你多希望这是真的。我多希望听到他说‘嗨妈妈，你好吗？我爱你’。”

为何要重现这些声音？

决定这些声音该说什么内容构成了伦理难题。你如何确定已逝之人会作何感想？如何判断他们愿意或不愿向世界分享什么？

每位受访父母都表示确信：他们的孩子会说希望自己还活着。他们会说不想看到其他孩子遭遇枪击身亡。

华金的父母以他的社交媒体贴文为参照。生前他曾讨论过保护儿童免受枪支和校园枪击伤害的话题。华金的父亲曼尼说，儿子希望像“列侬、曼德拉、阿里那样被铭记为伟大人物”。他将此视为实现儿子遗愿的方式。

帕特里夏和曼尼·奥利弗聆听六年前在佛罗里达州帕克兰校园枪击案中丧生的儿子华金的AI合成声音。照片：David Hall/华尔街日报所有参与的家长都强烈认为，这将有助于巩固他们孩子的遗产，并为面临枪支杀害风险的儿童带来新的保护措施。曼尼表示，其他在枪击案中失去孩子的父母（包括帕克兰的其他家长）决定不参与。（帕特里夏称，该家庭的反枪支暴力非营利组织"Change the Ref"主要依靠外展活动的小额捐款维持运营。）

借助ChatGPT和ElevenLabs等工具，现在可以训练聊天机器人在开放式对话中模拟某人。在我几年前制作的一部纪录片中，我拜访了James Vlahos，他使用更基础的技术与已故父亲（即"爸爸机器人"）聊天。

但这些父母对创建孩子的聊天机器人不感兴趣。事实上，所有信息都是严格脚本化的，长度不超过一分钟。“我不想复制华金，“帕特里夏告诉我，“那不会让华金回来。”

应该让这些声音复活吗？

与AI的其他应用一样，这种应用的一个担忧是它可能被用于伤害。想象一下，这些孩子的声音被用来传播虚假信息或仇恨言论。联邦通信委员会刚刚禁止了在诈骗自动电话中使用音频深度伪造，称人们曾被听起来像熟人家属或同事的声音欺骗。

近期，已故名人如罗宾·威廉姆斯和乔治·卡林的AI语音克隆内容在网络上流传，引发了家属的强烈反对。

如今遗产规划通常包含对社交媒体等网络账户的身后安排。Goetz Fitzpatrick律师事务所信托与遗产部门负责人艾莉森·阿登·贝桑德指出，未来人们还需在遗嘱中明确是否允许死后被AI复制形象。

语音克隆公司ElevenLabs联合创始人马蒂·斯坦尼舍夫斯基表示，若遗产继承人拥有权利并获授权，公司允许用户复制逝者声音。阿登·贝桑德解释道，名人更倾向于在遗产规划中明确其音像形象权属。

乌兹·加西亚在得州乌瓦尔德校园枪击案中遇难时年仅10岁。插画：华尔街日报，布雷特·克罗斯通过报道科技与死亡的交叉领域，我领悟到两点：第一，每个人处理哀伤的方式都是独特的。

“当最后一个记得你的人离开时，你才真正逝去，“乌兹的父亲布雷特告诉我，“所以在我余下的岁月里，我会继续向世界介绍他，让他比我存在得更久。”

第二，科技将持续改变我们缅怀逝者的方式。若认为当前技术已令人震惊，不妨再等上几年。

有人会觉得它令人毛骨悚然，也有人认为它将改变世界。这两种看法可能都没错。

——在此订阅乔安娜·斯特恩的《科技那些事》周刊。如今万物皆科技。专栏作家乔安娜·斯特恩将作为您的引路人，分析并解答这个永远在线时代的各种问题。

联系乔安娜·斯特恩请致信[email protected]