谷歌努力减少搜索中的非自愿深度伪造色情内容 - 彭博社

谷歌一直在调整搜索结果，专门寻找与某人姓名相关的深度伪造内容，并降低那些包含大量因违反明确虚假内容政策而被从搜索中删除的页面的网站的排名。

摄影师：Gabby Jones/Bloomberg谷歌正在调整其搜索引擎，以减少在搜索结果中高频出现的性暴露虚假内容，这是对人们使用生成式人工智能工具创造出的非自愿不良内容激增的回应。

当那些由AI生成的内容展示了一个真实人物的面部或身体而未经其许可时，该人可以要求将其从搜索结果中删除。现在，当谷歌认为需要撤下某内容时，它将过滤所有类似搜索的明确结果并删除重复的图像，该公司在周三的一篇博文中表示。这家Alphabet Inc.子公司还表示，它已经改进了其搜索排名系统，以便性暴露虚假内容不会出现在顶部结果中 —— 这是彭博社在五月份报道的一项变化已经在进行中。

“我们一直有政策，使人们可以在搜索中找到这些内容时将其删除，但我们正处于技术转变的过程中，”谷歌负责保护谷歌生成式人工智能技术在搜索和其他应用中的Emma Higham产品经理在与记者的简报中说道。“随着每一次技术转变，我们也看到新的滥用情况。”

2023年，彭博社发现，Google搜索是主要驱动深度伪造或性暴力AI生成色情内容的网站的流量来源。在Google上，搜索许多知名名人与“深度伪造”一词匹配，会将用户引导至MrDeepfakes.com等网站，这些网站主要存在于交易色情图像。根据Similarweb的数据，一年前，Google搜索占据了前往MrDeepfakes.com的400万台式机访问量中的44%。发现。

Google一直在调整针对特定寻找与某人姓名相关的深度伪造内容的查询结果。该公司表示，搜索引擎将被训练以展示高质量、非色情内容，比如新闻文章，当这些结果可用时。到目前为止，Google表示，这些变化已经将这类查询的显式图像结果的曝光减少了70%以上。

根据5月彭博社的一份报告，4月至5月间，美国的搜索流量导致前往前两个深度伪造色情网站的流量急剧下降。

Google还在其博客文章中表示，正在降低那些包含大量页面已因违反反对色情虚假内容政策而被从搜索中删除的网站的排名。

在另一次采访中，产品经理Higham表示，Google在决定何时采取行动针对非自愿的显式图像以及何时保持搜索引擎上的结果不变方面面临新挑战，他提到需要平衡用户获取信息的能力与在线安全之间的需求。倡导者批评Google降低，而不是完全删除深度伪造内容。

“我们必须小心，不要采取过于直接的方式，对信息获取产生意想不到的后果，”Higham说道，他指的是那些可能不希望在搜索引擎上将明确、经过同意的内容降级的成人表演者。“但是当我们看到高风险查询和高风险的虚假明确内容非自愿地出现时，我们现在正在采取强有力的行动。”

微软公司的Azure云计算服务在季度增长上放缓，令那些急于看到人工智能产品巨额投资回报的投资者感到失望。

Azure的收入，在过去几年中一直是微软的主要增长引擎，在财政第四季度增长了29%，而上一时期增长了31%。最近一时期增长中约有8个百分点归因于人工智能，而上一季度为7个百分点。