诈骗分子利用生成式AI伪造身份证件以实施犯罪——彭博社

摄影师：RichLegg/E+生成式人工智能使得几分钟内制作更逼真的假身份证成为可能，而社交媒体上随手可得的自拍照片进一步助长了这种行为。

欺诈检测公司Snappt战略合作副总裁凯尔·尼尔森指出，生成式AI能伪造身份证上的水印、条形码和全息图，达到以假乱真的效果。

尼尔森表示，过去六个月里AI已"大规模"渗透到金融犯罪中。2024年12月，美国联邦调查局发布警报称犯罪分子正运用生成式AI扩大欺诈规模，包括伪造身份证件。今年1月，美国金融业监管局警告诈骗者利用AI技术入侵金融账户，并以不知情投资者名义开设新账户。战略与国际研究中心研究员朱莉娅·迪克森接受采访时透露，网络罪犯通过窃取个人资料照片、身份信息或从黑市购买数据来制作深度伪造内容，借此绕过数字验证系统和客户身份识别程序。

数字身份验证和反欺诈平台Socure的数据显示，在其2800多家客户中，不法分子利用生成式AI篡改真实自拍照的情况正急剧增加。根据其官网信息，Socure的客户涵盖金融服务、政府机构、游戏及医疗保健行业。该公司表示，经篡改的自拍照使用量从去年秋季的每周21例飙升至今年初的每周超4500例。

篡改自拍照累计案例数激增

22周内该数字从21例暴增至34,341例。

来源：Socure

注：数据显示Socure为2800多家客户追踪相关案例。

Socure报告指出，威胁行为者可轻易从社交媒体窃取自拍照，将其与被盗的个人身份信息结合伪造证件。他们还能利用生成式AI，通过一张头像照片生成完整人像，并添加看似自然的背景。犯罪分子借此可用AI篡改照片绕过"身份证+实时自拍"的双重验证步骤。

Socure文件验证产品负责人Deepanker Saxena表示，罪犯还能用AI生成虚拟人物的逼真图像。例如要求AI图像生成工具"创建一张45岁棕眼白人女性的自拍照，身高5英尺5英寸"；若持有某人10岁时的旧照，现在约20岁，可要求AI生成比原图年长10岁的图像以匹配当前样貌。

诈骗者试图重复利用相同的被盗身份信息和AI生成的自拍照实施不同犯罪，他表示，并补充道：“一旦他们投入创建了那个身份，就会希望通过重复使用该身份尽可能多地获利。”

根据Socure的报告，AI生成的假身份证可用于多种欺诈行为，从申请信用卡贷款到恋爱骗局。

Saxena警告称，为应对日益复杂的攻击，金融机构需要建立多层防御系统，在用户尝试登录或进行金融交易时，通过分析包括设备和手机所有权信息、行为数据、面部图像比对、地理位置数据和生物特征信号在内的多种实时文档信号进行验证。

“归根结底，我们需要用AI对抗AI，“Saxena说。

本周要闻

根据Palo Alto Networks公司的报告，网络犯罪分子去年以破坏企业运营为首要目标，并利用业务中断期最大化勒索金额。

这家总部位于加州圣克拉拉的网络安全公司表示，其在2024年处置的网络安全事件中，86%导致了业务中断、声誉损害或两者兼有。

Palo Alto Networks旗下Unit 42咨询与威胁情报高级副总裁Sam Rubin表示，除了加密文件和窃取数据外，黑客去年还试图破坏公司系统并骚扰利益相关者及商业伙伴，以此胁迫受害者支付赎金。

黑客瞄准了拥有庞大合作伙伴网络的企业，这类攻击可能造成大范围业务中断并迫使快速支付赎金。报告指出，医疗保健、酒店服务、信息技术和关键基础设施行业受到的影响尤为严重。

我们正在阅读的内容

• 罗马尼亚被全球特朗普主义碾压：权力格局。
• 美国放弃在特朗普命令后未来外交官培训中的DEI条款。
• 一项重要的网络安全法律即将到期，倡导者正准备推动国会续期。
• ‘OpenAI’工作诈骗针对Telegram上的国际工作者。

**有新闻线索？**您可以通过[email protected]联系Jeff Stone。您也可以使用我们的SecureDrop安全且匿名地发送文件。

更多来自彭博的内容

获取深度科技及更多彭博科技新闻简报：

• 游戏进行时深入探索视频游戏行业
• 开机启动获取苹果独家新闻、消费科技资讯等
• 荧幕时光前排观看好莱坞与硅谷的碰撞
• 声音片段报道播客、音乐产业及音频趋势
• 问答AI解答您所有关于AI的问题