斯洛伐克的Deepfakes预示着人工智能将如何改变选举面貌 - 彭博社
Daniel Zuidijk
摄影师：Michaela Nagyidaiova/Bloomberg鉴于最近斯洛伐克选举中AI深度伪造技术的泛滥，越来越难以分辨谁在说话。但首先…
必读：
• 美国情报首脑未能在截止日期前告诉国会他们在做什么• 中国寻求放宽规定以缓解企业担忧• 赌场黑客利用低技术手段来利用企业目标
网络安全角度
在斯洛伐克选举前夕，据称发生在进步斯洛伐克党领袖米哈尔·西梅卡和一名当地记者之间的对话似乎有些不对劲。
尽管这位国家主要亲欧洲党派领袖似乎在抨击当地选民、讨论从罗马少数民族那里购买选票并开玩笑谈论儿童色情，但他们的演讲却生硬，声音平淡。
如果听起来有些奇怪，那是因为确实如此。法新社事实核查员得出结论，这段录音是由一种人工智能工具合成的恶作剧，该工具是通过对发言者声音样本进行训练而得出的。这是社交媒体、通讯应用和电子邮件中流传的几个伪造录音之一，其中一个录音中，一个听起来像西梅卡的人计划在选举后提高啤酒价格。我的同事Jillian Deutsch和Daniel Hornak详细介绍了斯洛伐克选举中虚假信息的使用，Olivia Solon记录了AI深度伪造技术的作用。
Simecka 谴责 这些伪造品为“巨大、显而易见的愚蠢”，目前还没有线索表明是谁幕后操纵。在进步斯洛伐克 排名第二，落后于领先者斯梅尔，由一位嘲笑欧盟对俄罗斯制裁的民粹主义前总理领导。
明显的是，一个新的虚假信息时代正在来临。尽管专家们长期以来一直警告说要警惕深度伪造视频来影响选民，但如今人工智能已经便宜且易于获取，任何人都可以尝试。
“尽管这个深度伪造视频在技术上相当粗糙 —— 你绝对可以听出这不是一个真实的人 —— 这段录音传播得很快，”斯洛伐克内政部一位打击虚假信息的负责人丹尼尔·米洛说。“也许再过一两年，你可能分辨不出来了。”
技术的迅速进步，再加上全球范围内一系列针对选民名单的高调黑客攻击，表明这个问题只会变得更糟。
今年，英国选举委员会披露了一起 数据泄露事件，可能泄露了4000万选民的数据，而特别顾问罗伯特·穆勒对2016年美国选举干预的调查发现，俄罗斯黑客针对多个州的选民数据进行了攻击。
Deepfakes中包含仇恨言论或斯洛伐克选举虚假信息通过Meta Platforms Inc.的Facebook和Instagram，X和Alphabet Inc.的YouTube传播，根据上周Reset的一份报告，Reset是一个研究团体，关注技术对民主的影响。
Reset跟踪的帖子中超过一半是通过Telegram这个消息应用程序传播的。尽管没有审查电子邮件，但也有报道称剪辑也通过这种方式传播。Milo表示，这些平台的回应“不一致”，其中一些删除或标记有问题的帖子。
根据Meta发言人Ben Walters的说法，斯洛伐克内政部在Meta的政府报告渠道中。 “我们在选举期间没有看到他们有太多升级，但对我们收到的那些做出了及时回应，”他说。
根据Google发言人Ciaran Ward的说法，YouTube与当地官员建立了优先渠道，以处理违反其政策的内容。
X和Telegram的发言人未回复评论请求。
斯洛伐克是一个拥有540万人口的东欧国家，其选举预示着在乌克兰与俄罗斯的战争陷入停滞时，盟友之间关于对乌克兰援助的分歧正在加剧。但更不祥的是，它们还预示着Deepfakes很可能会成为政治现实的一部分。
“据我所知，这是第一次严重尝试使用人工制作的内容来影响选举结果”以制作Deepfakes，Milo说。“这将是未来的样子。”
好像信任政客本来就已经够困难了。
本周我们学到了什么
钱买不到网络安全，一项首席信息安全官和其他高管的新民意调查表明。
尽管他们继续增加投资，但只有五分之一的人认为他们的组织的方法是足够的，根据安永对19个不同行业和25个国家的500名C级高管和网络安全领导者进行的调查。受访者代表年收入超过10亿美元的组织。
在一系列对知名品牌的破坏性黑客攻击之后，这一严峻的评估出现了，包括MGM度假村国际、Clorox公司和Coinbase Global Inc。
“尽管在网络安全上花费了大量时间和金钱，首席信息安全官们仍然感到在网络威胁面前毫无准备，”安永的理查德·沃森说，并补充说他们应该尝试简化他们的方法。
“首席信息安全官应该倡导简化供应链，这样他们就只需与更少的供应商打交道，并努力确保网络安全视角覆盖到它们上面，”沃森说。
我们正在阅读什么
2023年最大的黑客攻击规模不断扩大。
为什么硅谷容易上当受骗。
中国黑客在七月份的一次违规行为中窃取了6万封国务院电子邮件。
印度教民族主义者发起了大规模数字宣传活动，煽动印度。
医疗设备的FDA网络安全要求开始生效。
钓鱼行动
目前还不清楚这对美英特殊关系有何影响。
**有新闻线索吗？**您可以联系Jake Rudnitsky，邮箱为[email protected]。Daniel Zuidijk的邮箱是[email protected]。您也可以使用我们的SecureDrop安全匿名地发送文件。
更多来自彭博社的内容
现场活动：加入行业领袖、创新者和企业家，参加彭博科技峰会，于10月24日在伦敦举行。该活动将探讨网络安全的变化面貌，以及人工智能在战争中的扩大应用等话题。在这里注册。
每日科技资讯以及更多彭博科技周刊，尽在您的收件箱：
- 游戏进行中玩转视频游戏行业
- 开机苹果独家报道，消费者科技新闻等
- 银幕时光好莱坞与硅谷碰撞的第一排座位
- 声音片段关于播客、音乐行业和音频趋势的报道
- 问答AI回答您关于人工智能的所有问题