法拉利首席执行官Deepfake视频显示AI欺诈冒充高管的威胁日益增长 - 彭博社

Benedetto Vigna摄影师：Hollie Adams/Bloomberg一名行人在加利福尼亚州旧金山的苹果商店前拿着一部iPhone。

摄影师：David Paul Morris/Bloomberg本月的一个星期二上午，一位Ferrari NV的高管开始收到一系列意外的信息，看起来是来自首席执行官。

“嘿，你听说我们正在计划的大收购了吗？我可能需要你的帮助，”一条自称来自首席执行官Benedetto Vigna的消息写道。

彭博社看到的WhatsApp消息并非来自Vigna通常使用的商务手机号码。头像也不同，但是是一张戴眼镜的首席执行官穿着西装领带，双臂交叉站在Ferrari跃马标志前的照片。

另一条来自冒充Vigna的消息写道：“准备好签署我们的律师即将发送给你的保密协议，意大利市场监管机构和米兰证券交易所已经被告知。保持警惕，请保持最高的保密。”

据知情人士透露，接下来发生的事情是最新使用深度伪造工具进行实时电话对话，旨在渗透一个国际知名企业。这位接到电话的高管意识到情况不对后，这家意大利超级跑车制造商毫发无损，这些知情人士称，由于事态的敏感性，他们要求不透露身份。

模仿维尼亚的声音令人信服 —— 对南意大利口音的完美模仿。

维尼亚 deepfaker 开始解释，他打电话使用了一个不同的手机号码，因为他需要讨论一些机密事项 —— 一笔可能会遇到一些与中国有关的麻烦并需要进行一笔未指明的货币对冲交易的交易。

据人们称，这位高管感到震惊并开始产生怀疑。他开始注意到微弱的机械语调，这进一步加深了他的怀疑。

“对不起，贝内代托，但我需要确认你的身份，”这位高管说。他提出了一个问题：几天前维尼亚向他推荐的那本书的标题是什么（是《复杂性十诫：在世界不断变化中的行动、学习和适应》，作者是阿尔贝托·费利切·德·托尼）？

随即电话被突然挂断。据人们称，法拉利展开了内部调查。总部位于意大利马拉内罗的公司代表拒绝就此事发表评论。

为什么深度伪造无处不在？它们能被阻止吗？：QuickTake

蓬勃发展的趋势

这并非第一次有人试图冒充知名高管。今年五月，有报道称广告巨头WPP Plc的首席执行官马克·里德也成为了一场最终未能成功但同样精心策划的 deepfake 诈骗的目标，对方在 Teams 电话中冒充了他。

“今年我们看到犯罪分子利用人工智能尝试声音克隆的情况有所增加，”网络安全培训公司 SocialProof Security 的首席执行官 Rachel Tobac 在一次采访中表示。

虽然这些生成式人工智能工具可以制作出令人信服的深度伪造图像、视频和录音，但它们尚未证明足以引起许多人警告的广泛欺骗。

然而，一些公司已经成为诈骗分子的受害者。今年早些时候，一家未透露名称的跨国公司在香港的员工被诈骗分子利用深度伪造技术欺骗后损失了2亿港元（2600万美元），据《南华早报》 2月份报道。诈骗者在视频通话中伪造了公司的首席财务官和其他人的形象，并说服受害者转账。

其他公司，如信息安全公司 CyberArk，已经在培训他们的高管如何识别被机器人欺诈。

阅读更多： 下一波网络犯罪从深度伪造视频通话开始

“这只是时间问题，这些基于人工智能的深度伪造工具预计将变得非常准确，”意大利米兰理工大学网络安全教授 Stefano Zanero 在电话采访中表示。

苹果公司即将推出的人工智能功能将比预期晚到，错过了即将推出的iPhone和iPad软件更新的初始发布，但这给了公司更多时间来修复错误。

据知情人士透露，该公司计划在10月份开始向客户推出苹果智能功能，作为即将到来的软件更新的一部分。知情人士表示，这意味着人工智能功能将在计划于9月发布的iOS 18和iPadOS 18初始版本之后几周到达。这些知情人士拒绝透露身份，因为他们讨论的是未公布的发布细节。