TikTok难以删除深度伪造视频中哈马斯受害者的视频-彭博社

在TikTok上最近的一篇帖子中，一名女性站在穿着防弹背心的武装士兵面前，神情庄重。

“我被哈马斯的激进分子暴露在卡车后面，几乎失去了生命，”这名女性在哀伤的长笛音乐声中用西班牙语说道。“我的名字是夏妮·洛克。悲伤和不确定现在成了我的现实。我的身份和尊严在那一刻被夺走。”

这名女性分享了她所说的对袭击的看法，并提到了她母亲对她安全的呼吁。但这并不是22岁的德国-以色列公民洛克，在哈马斯10月7日对音乐节的围攻中丧生。实际上，这是她的一个深度伪造图像 —— 一个使用现成的人工智能编辑工具制作的视频，只需一张照片和几分钟的努力就能创造出一个说话、移动的任何人的模仿。

洛克经常在社交媒体上发布内容，使得她的形象容易被借用到其他内容中。这篇帖子在袭击后的第二天发布，观看次数超过700万次。

彭博社审查了数十个在TikTok上展示悲剧受害者的深度伪造视频，使用各种语言，有时获得数百万次的观看和成千上万的评论。最近的是以色列-哈马斯战争受害者视频，似乎旨在引起同情和病毒式传播，尽管它们的创作者通常是匿名的。人工智能研究人员称这些为“数字复活”。它们遵循类似的模式：一个悲惨的死亡被新闻报道，几天甚至几小时内，用户发布那个人形象的视频，讲述他们去世的故事。

Ricarda Louk在十月份与德国联邦议院主席Bas在柏林的会议上展示了她女儿Shani Louk的照片。摄影师：Christoph Soeder/picture-alliance/dpa/AP死者的深度伪造视频——违反TikTok的规定，同时针对那些无法再给予同意或举报内容以便撤下的人——正在该应用上走红，并且成功地绕过了其内容审核机制。尽管TikTok有规定禁止在所谓的“合成”人工智能视频中出现私人公民和儿童的描绘，但这些视频经常在应用上积累了数千至数百万的观看次数。在收到示例视频的电子邮件后，Bloomberg的审查立即删除了这些视频。依赖DeepWord或DeepBrain等工具的技术将继续改进，产生更逼真的描绘，更难以检测。

“像其他平台一样，TikTok继续投资于检测、透明度和行业合作，以应对这种快速发展的技术，”一位代表中国科技巨头字节跳动所有的TikTok的发言人表示。“我们已经制定了严格的政策，以删除我们平台上的有害人工智能生成内容。”

这些视频涉及死去的儿童、私人公民和名人，审查的帖子中没有证据表明受害者或其幸存者同意使用其肖像。

多个关于哈马斯受害者Ranani Glazer的人工智能生成视频声称展示了这位23岁的巴西人谈论自己的死亡。其中一个视频的观看次数超过了81,000次，并且在TikTok上搜索他的名字时是推荐视频之一，与其他关于哈马斯袭击的新闻内容一起。哈马斯被美国和欧盟指定为恐怖组织。在Bloomberg要求评论后，该视频被删除。

弗拉基米尔·波波夫是一名俄罗斯男子，于6月在埃及被鲨鱼袭击身亡。在他去世几天后，一段TikTok视频中使用他护照照片的版本重新展现了他的面孔，声称他的灵魂现在正在守护他的父亲。“我感到我的生命在流逝，我知道我将死去，”配音用英语说道。“在那最后的时刻，我想起了我和爸爸一起度过的美好时光。爸爸，我爱你。”

这些视频中有数十个仍然存在，并且没有被TikTok的内容审核系统删除，使得发布者能够增加他们的账号粉丝，而该应用也从人们在线观看这些视频中获益。这些视频与其他通常轻松愉快的TikTok内容一起出现在快速滚动中，使用户在没有任何背景或解释的情况下接触到这些被篡改的图像，亨利·阿杰德（Henry Ajder）是一位深度伪造和生成人工智能研究员，他说。

“你在滚动、滑动视频，可能你只看了三秒钟，然后就觉得无聊换了下一个，”阿杰德说。“但在那三秒钟里，你看到了一些不真实的东西，而你没有看到视频的那一部分，其中披露了真相或提供了背景。”

曾经被认为是疫情封锁期间轻松愉快和滑稽视频的地方，TikTok现在经常卷入全球政治中。超过10亿人使用该应用，通常寻找有关重大新闻或收看有关正在发生事件的视频。与以色列-哈马斯战争相关的标签已经积累了数十亿次的观看，该平台一直在抵制有关其在推广亲巴勒斯坦内容的指控。

像大多数社交媒体平台一样，这款应用也成为用户发布未经证实的叙述和错误信息的地方，在突发新闻混乱时迅速积累观看次数。该应用程序的构建目的是推广用户感兴趣的视频，而不是那些拥有大量粉丝的人发布的视频，因此任何人都可以参与病毒式传播的趋势。这一因素，再加上廉价人工智能技术的大量使用，使得TikTok特别容易受到深度伪造的影响。

2021年，出现了一些视频，看起来像是演员汤姆·克鲁斯在啃棒棒糖或试图做硬币戏法。这些轻松愉快的视频，据创作者告诉CNN，是通过对克鲁斯的面部进行两个多月的AI技术训练的产物，吸引了数百万次观看，并帮助背后的人成立了一家人工智能公司。

一首使用德雷克和威肯德的深度伪造声音的臭名昭著的歌曲被上传到TikTok和音乐流媒体服务，引起了广泛的公众关注。从被篡改到完全伪造的政治家的视频和音频已经被广泛发布在社交媒体上。国会开始讨论立法措施来保护名人和艺术家的声音。在这场讨论中，对私人公民的保护几乎没有被提及。

阅读更多：没有法律保护人们免受深度伪造色情内容的侵害。这些受害者进行了反击

私人公民的深度伪造辩论主要集中在未经同意使用色情内容，或者使用真实的声音欺骗年长的亲戚汇款。少数活动使用已故个体的肖像，并得到幸存者的同意，以传达特定的信息。在墨西哥记者哈维尔·瓦尔德斯·卡德纳斯因报道毒品集团而被谋杀后，他的AI动画形象在一场屡获殊荣的活动中继续传播，以提高对媒体成员危险的意识。

“讲故事通常是说服观众或吸引他们的最佳方式，在这种情况下，让已故人士讲述自己的故事可能非常有效，可以传达观念或说服人们改变他们的观点，”佛罗里达大学新闻与传播学院助理教授克里斯·朱说道。他研究了深度伪造视频作为叙事说服工具。

2018年墨西哥新莱昂州蒙特雷市，被杀害的记者哈维尔·瓦尔德斯的纪念活动。摄影师：胡利奥·塞萨尔·阿吉拉尔/法新社/盖蒂图片社但在社交媒体上，没有已故人士或其幸存者的同意，一个人认为是善意的倡导或追悼的视频，可能被另一个人视为不尊重或追求名利。彭博社审查的视频已经引起了用户的分歧。

“你为什么要做这个，”一个用户在AI生成的视频上发问，该视频于9月发布，展示了2020年被警察杀害的黑人乔治·弗洛伊德。其他人则支持受害者。“埃琳娜需要正义！！！”一个用户在一段17个月大的谋杀受害者埃琳娜·亨布里的视频上写道，她的数字复活讲述了她被强奸和导致死亡的伤势的故事。这篇帖子的标题倡导人们“成为她的声音，分享她的故事”，获得了230万次观看。

“这里涉及道德和伦理问题，这是一个我认为理性人可以有分歧的地方，”加州大学伯克利分校电气工程与计算机科学系和信息学院教授哈尼·法里德说。

这导致像TikTok这样的平台不得不决定道德和伦理界限在哪里。它们试图对其进行监管，但目前还不够完善。根据TikTok的社区准则，“展示真实场景的合成或篡改媒体”需要明确披露。该应用的规定不允许包含未成年人或18岁以下未成年人的视觉或音频肖像的任何内容。

TikTok表示，用户必须在包含逼真表现的人工智能生成内容上披露标签，该应用向用户介绍了这一标签。彭博社审查的数字复活视频中只有少数带有该标签，该标签告诉用户创作者将视频标记为由人工智能创建，并且大多数描绘了私人人物或儿童。

“令人讨厌”或“令人不安的”内容是不允许的。对于何种内容越过了这条线的判断权留给了TikTok、其审查算法和审查视频的人类审查员。一些数字复活视频通过AI生成的死去儿童的形象讨论虐待和谋杀的细节。

TikTok还表示，“不准确、误导性或可能对个人或社会造成重大伤害的虚假内容”是不允许的。无法知道通过数字复活传递的关于受害者在死亡过程中的感受的陈述是否准确。

社交媒体平台本质上是为了奖励人们参与的帖子，无论是积极的还是消极的。当人们在像TikTok这样的平台上点赞、评论、转发或回复视频和照片时，这被视为人们对该内容感兴趣的指标，因此它经常被推送给更多人。

“他们会做任何能引起关注的事情，无论是积极的关注还是消极的关注，而这些视频就是能引起关注的。” 加州大学伯克利分校的法里德说。“部分原因是点击量，部分原因是耸人听闻，部分原因是病态好奇。现实主义，易用性，以及对技术的获取将会不断提升。”