国内首个金融领域“AI 换脸”检测标准正式发布

<article><section data-type=“rtext”><p>【环球网科技综合报道】9 月 6 日，《虚假数字人脸检测金融应用技术规范》标准（下称《标准》）在 2024 Inclusion·外滩大会上正式发布。标准规定了金融领域虚假数字人脸检测服务的功能要求、技术要求、性能要求等，并提出了对应的测试评估方法。 据了解，这是国内首个面向金融场景的“AI 换脸”检测标准，中关村金融科技产业发展联盟秘书长、中关村互联网金融研究院院长刘勇在演讲时说：“该标准的发布为金融场景下的虚假数字人脸安全检测和评估提供了依据，也填补了这一领域的空白。”</p><p><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/b62af92274035067f9d6362458346b9du1.png?imageView2/2/w/750" /></p><p>记者了解到，该标准在中关村金融科技产业发展联盟组织下，由蚂蚁天玑实验室和工商银行、建设银行、邮储银行、中信银行、北京国家金融科技认证中心、中关村互联网金融研究院、网商银行、北京前沿金融监管科技研究院等十几家机构共同撰写。</p><p>《标准》在“功能”和“性能”两方面作出了具体规定。功能层面，相关机构应具备替换、活化、深度伪造等五种情况下的虚假数字人脸检测功能。性能层面，相关机构应建立不少5000张的真实数字人脸数据集，和不同伪造形式的虚假人脸数据集，以应对现实生活中的复杂场景。例如不同肤色、不同光线条件、不同清晰度、包含或不包含语音等都是重要维度。据了解，标准的各项条款均在蚂蚁天玑实验室完成了试验验证，并且天玑实验室已经开展了面向金融机构“AI换脸”检测能力的测试评估服务。</p><p>此外，《标准》也明确虚假数字人脸内容检测服务性能将从准确性、鲁棒性、泛化性、响应速度等四个维度进行评估，考察机构是否具备完整的、高准确度、高性能的检测水平。据了解，在刚结束的外滩大会 AI 创新赛·全球 Deepfake 攻防挑战赛上，正是应用了此标准的框架和指标，进行赛题的制定和答案的评价。</p><p>近两年，随着人工智能技术的飞速发展，深度伪造技术（Deepfake）也日益成熟，它在给社会带来便利的同时，也带来了前所未有的安全挑战。特别是金融行业，人脸识别技术作为身份鉴别的重要手段，其安全性直接关系到金融交易的安全与用户资金的安全。然而，一些不法分子利用人工智能技术制造虚假数字人脸，企图绕过安全机制，给金融安全带来了严重的威胁。刘勇表示，希望通过这个标准指导金融行业及相关机构提升识别虚假数字人脸安全能力，防范相关金融风险。</p></section></article>