泰勒·斯威夫特的深度伪造视频源自人工智能挑战，据报道称 - 彭博社

泰勒·斯威夫特在2月4日的洛杉矶格莱美奖上。

摄影师：Lionel Hahn/Getty Images

社交网络分析公司Graphika称，上个月末在社交媒体上大量传播的泰勒·斯威夫特淫秽的换脸视频源自一项挑战，旨在突破人工智能生成淫秽图像的安全机制。

数周来，4chan互联网论坛的用户每天都在参加比赛，寻找能帮助他们绕过流行的图像生成服务过滤器的词语和短语，这些服务包括微软的Designer和OpenAI的DALL-E，研究人员发现。最终目标是创建出著名女性人物的性感图像，如歌手和政治家。

“虽然泰勒·斯威夫特的病毒式淫秽图片引起了人们对人工智能生成未经同意的亲密图像的关注，但她远非唯一受害者，”Graphika的高级分析师Cristina López G.在一封电子邮件中写道。“在这些图片起源的4chan社区中，她甚至不是最常被攻击的公众人物。这表明任何人都可能成为这种方式的目标，从全球名人到学生。”

4chan的代表未回复置评请求。

根据Graphika的分析，这些淫秽换脸视频最初是在该论坛上出现的，然后传播到Telegram，最后传到X网站。在淫秽图片引发愤怒后，X网站被迫封锁了所有关于泰勒·斯威夫特的搜索。其中一张图片在X网站上停留了17个小时，观看次数超过4500万次，据The Verge报道。

许多文本到图像生成公司已经禁止了某些关键词，以阻止用户生成有害内容。然而，一些用户在4chan和其他在线论坛上分享了如何突破这些安全措施的技巧。

“这些图像源自一群受到‘挑战’激励的人群，他们试图规避生成式人工智能产品的保障措施，新的限制被视为又一个需要‘战胜’的障碍，”洛佩兹·G说。“重要的是要理解这种恶意活动的游戏化本质，以防止源头进一步滥用。”

Swift的病毒式图像已经帮助将非自愿深度伪造技术推到政治议程的前沿，多年来专家一直担心这项技术失控。白宫发布了一份谴责Swift图像的声明，来自纽约的民主党国会议员乔·莫雷尔表示，他希望这一事件能引起人们对他努力使深度伪造色情成为一项联邦犯罪并受到罚款和监禁的关注。

在4chan频道上，Swift只是许多名人之一，其肖像被用来制作性或暴力图像。其他名人包括比莉·艾利什、阿丽亚娜·格兰德和艾玛·沃特森。Swift、艾利什、格兰德和沃特森的代表未回复置评请求。

截至1月30日，仍在进行Swift深度伪造请求，其中至少有一个寻求她的暴力图像。

多年来，名人深度伪造色情在互联网上的许多网站上都有，但涉及普通人的案例随着人们获取技术的复杂性和便利性而增加，根据专家的说法。受害者通常无法求助，难以让这些图像下架。

Meta平台公司回归了，马克·扎克伯格的财富也回来了。

这位Facebook联合创始人的净资产在Meta季度业绩远远超出华尔街的预期后激增了281亿美元，使其股价上涨约20%。他现在身价为1,705亿美元，是他有史以来最富有的时候，超过了比尔·盖茨，跃居彭博亿万富翁指数的第四位。