拜登AI行政命令显示深度伪造的紧迫性 - 彭博社

美国总统乔·拜登。

摄影师：肖恩·特鲁/美联社没有任何软件程序可以扭转多年来受损的信任。但首先…

今天你需要知道的三件事：

• TikTok的首席执行官将与欧盟监管机构会面• 苹果警告假日销售可能放缓• 波音的一个网站遭到网络攻击

一个“理论上的不可能”

以色列-哈马斯战争凸显了在线欺骗如何在有争议的公共讨论期间产生影响。一些声称展示该地区情况的图像实际上是几年前拍摄的，而真实照片则被认定为深度伪造，因为旨在识别AI生成内容的工具错误地标记了它们。

深度伪造是拜登政府试图在其关于人工智能的行政命令中解决的众多与AI相关的问题之一 — 这是美国迄今为止最认真的尝试来应对AI的挑战。该命令指示商务部研究识别和标记所谓合成内容的方法，以及验证内容并跟踪其真实来源。拥有这些功能将是很好的，但未来存在着重大的技术和其他挑战。

有专家一致认为，今天用于识别由AI创建的内容的系统是可以被操纵的。马里兰大学计算机科学副教授Soheil Feizi的研究已经证明了破解检测AI生成的文本链接和图像的方法，他称未来的系统不可能是绝对安全的，因为基本的AI模型总是比检测它们生成的工具进步更快。他说：“即使在未来，也不会有可靠的方法来解决这些问题。”

关于如何处理这些有缺陷的工具，人们意见不一。Feizi认为，即使不是万能的，不完美的水印也可以暴露或阻止较不成熟的攻击。反对意见是，弱AI检测每次错过一个深度伪造视频或将真实图像标记为伪造品时，信任就会进一步瓦解，最好不要假装它们有效。但是其他人将AI检测技术比作锁住家门。当然，有人可能用撬棍撬开门闩或从窗户溜进来，但总比什么都不做好。

更有前途的技术集中在验证内容的来源。在其最基本的形式中，这将通过让内容的创建者用加密代码“签名”来实现。Web浏览器、社交网络或其他工具可以自动检查这个签名，并向用户表示它是合法的。类似的系统已经用于验证某些软件程序的来源，且难以破解。

公司一直在寻求制定内容认证标准，但加入政府也有一定道理，加州大学伯克利分校的教授汉尼·法里德（Hany Farid）表示，他研究数字取证、人类感知和虚假信息。法里德表示，这样的系统可以与水印技术配合，大大清理网络上的问题。他谈到AI检测技术时说：“最复杂、最有决心的行为者会找到绕过这一技术的方法。但如果我们能解决问题的底部75%，我会宣布胜利。”

然而，技术只是挑战的一部分。多年来，人们一直在学习不相信他们在网上看到的东西，尤其是那些他们不同意的东西。对深度伪造视频的担忧可能会加剧社交媒体上关于低技术虚假信息活动的讨论已经造成的损害。专家已经开始将这称为“说谎者红利”，因为当混淆和怀疑增加时，寻求传播虚假信息和不信任的人会受益。

消除说谎者红利需要更多的良好技术和政府以及大公司的支持。“当你不信任这些机构时，这些东西就行不通，”法里德说。“问题不仅在于你相信那些事实上是错误的东西，而是你相信政府、媒体和公司在隐瞒信息。”

从长远来看，在人工智能时代拥有一个健康的互联网的唯一途径是重建信任。这需要比总统令更多的努力。

重要新闻

一家硅谷集团由亿万富翁支持，表示他们拥有足够的土地在加利福尼亚北部建造一个乌托邦城市。加利福尼亚永恒项目背后的公司表示，他们希望建造一个可持续发展、适合步行的城市，将创造就业机会。

值得关注

观看Bloomberg Technology 电视采访 西门子首席执行官Roland Busch关于他在美国制造业投资的内容。### 充分充电

埃隆·马斯克神秘的人工智能项目将向一群特定的人发布。

OpenAI的Dall-E 3非常优秀，以至于引发了艺术家反对AI抄袭的抗议。

西门子将投资5.1亿美元在美国，并在德克萨斯州建造新工厂。

华尔街对特斯拉股票的兴奋似乎正在减缓。

更多来自彭博社

获取彭博科技周刊，请查收您的收件箱：

• 网络公告，报道黑客和网络间谍的阴影世界
• 游戏进行中，报道视频游戏业务
• 开机，苹果独家新闻、消费者科技新闻等
• 屏幕时间，近距离观看好莱坞和硅谷的碰撞
• 声音片段，报道播客、音乐行业和音频趋势
• 问答AI，回答关于人工智能的所有问题