TikTok的深度伪造死亡秀AI内容控制还有很长的路要走 - 彭博社

在TikTok办公室内。

摄影师：Ore Huiying/Bloomberg已经有黑暗证据表明社交媒体公司将在这个选举季节难以监管深度伪造视频。但首先…

今天你需要知道的三件事：

• 微软市值一度达到 3万亿美元• 亚马逊的Ring不会接受 警方的视频请求• IBM预测2024年将实现正现金流

关注已故者

本周我在TikTok上滚动时，看到了一个让我停下来的视频。一个幼儿用西班牙语讲述，她的照顾者“向我发泄他的挫折，打我，无情地将我的头撞向汽车座椅。” 她说她的名字是Alissa Beth Guernsey，但实际上不可能是Guernsey。她已经去世，她在2009年因受伤去世，这个视频具有人工智能的特征，让人感到不寻常。

像这样的帖子被称为数字复活，利用新的人工智能工具让人们死而复生。特别是涉及死去的儿童时，这些视频令人震惊，并违反了TikTok的政策，该政策禁止在这一流行视频应用上发布人工智能创建的私人公民和未成年人的描述，以及“令人恐怖”或“令人不安”的内容。不幸的是，这对我来说也很熟悉。

上个月，我写了一篇文章，讲述了在字节跳动旗下的TikTok上走红的AI生成的数字复活，这些视频是对在以色列发生的10月7日恐怖袭击等悲剧事件中去世的人进行深度伪造。彭博社发送给TikTok的评论视频立即被删除。

一位发言人本周表示，公司将继续更新此类内容的政策和检测工作，同时与专家合作，努力教育用户有关AI生成的帖子。

上周我滚动了几分钟，发现仍然有数十个这样的视频仍在直播，还有成千上万的粉丝发布更多的完整账号。一些帖子甚至被创建者贴上了标签，标识其为AI，这清楚地向TikTok及其审核团队发出信号，表明这可能是一个深度伪造视频，但这些视频仍然存在。

值得指出的是，根据其社区准则，TikTok对公众人物的深度伪造政策具有“更大的自由度”，只对代言、关于政治或金融问题的误导性陈述或者如果该人物是虐待对象时施加限制。我们将通过他们的审核行为看到公司如何定义这些被禁止的用途。

随着选举季节的临近，这一切显得更加重要，因为在这个时候，误导和影响力活动往往会泛滥。就在本周，美国总统乔·拜登的深度伪造音频被用于电话轰炸活动。虚假信息专家称这是他们迄今为止见过的最令人担忧的篡改信息，而距离美国总统大选还有九个多月。

到目前为止，社交媒体高管，比如Meta Platforms Inc.的全球事务总裁尼克·克莱格，迅速呼吁政策制定者通过强制性的监管来帮助AI“水印”，这将附加一个不可见但可审查的标记，将内容标识为由人工智能生成。克莱格上周在达沃斯表示：“目前还没有这样的技术。在我看来，这是我们今天面临的最紧迫任务。”

与此同时，大型科技公司一直在吹嘘它们投入的巨额投资和创新思维，以成为AI军备竞赛中的第一名。它们更倾向于谈论谁将首先创造人工通用智能，或者AI最终如何让它们赚钱，而不是将其用于更好的内容管理或检测技术。

我们经常将社交媒体公司的内容监管描述为“打地鼠”，专注于引起愤怒或新闻关注的帖子和视频。我在想，在AI时代，这可能有点太宽容了。这让人感觉他们不太像是在警惕地守护自己的平台，准备好进行内容管理，而更像是他们的注意力被固定在其他地方（也许是在打造自己的AI产品），直到媒体和公众的呼声最终促使他们采取行动。

重要新闻

Aleph Alpha CEO 琼纳斯·安德鲁利斯表示，大型科技公司对AI的投资可能会主导新技术。他说需要一个公平的环境，其中政策制定者支持较小的公司，以创造一个公平竞争的环境。

值得关注

观看彭博科技的特斯拉盈利分析。### 充分充电

Alphabet的股价飙升，因人们对其人工智能能力的乐观情绪推动了股价。

微软一直在追踪一群俄罗斯黑客，后来发现这些黑客也在监视微软。

ASML的CEO，这家生产关键芯片制造设备的公司表示，该公司在中国90%的业务不受美国或荷兰的出口管制影响。

华尔街股票借贷平台 EquiLend在一次勒索软件攻击中崩溃。

更多来自彭博

获取彭博科技周刊，直接发送到您的收件箱：

• 网络公告，报道黑客和网络间谍的阴影世界
• 游戏进行中，报道视频游戏行业
• 开机，提供苹果独家新闻、消费者科技新闻等
• 屏幕时间，报道好莱坞和硅谷的碰撞
• 声音简报，报道播客、音乐行业和音频趋势
• 问与答AI，回答您关于人工智能的所有问题