AI换脸以假乱真！蚂蚁数科发布反DeepFake产品，还邀请黑客找bug_风闻

白交 发自 凹非寺

量子位 | 公众号 QbitAI

生成式AI人脸造假套路多，怎么办？

现在，专门用于DeepFake的综合性产品上新了——

ZOLOZ Deeper，蚂蚁数科ZOLOZ出品。我们日常的支付宝刷脸支付，正是依托于他们技术支撑。

值得注意的是，这可不仅仅是简单的AI检测算法，而是一套覆盖全链路的技术产品体系——

它能够有效应对系统、服务器、应用等多环节Deepfake安全威胁。

而为了不断精进它的能力，内部实验室每个月都会对他进行超过20000次“攻击”测试。

甚至，ZOLOZ还对外拿出百万奖金池，邀请“白帽黑客”参与找Bug。

蚂蚁数科DeepFake产品上新

AIGC时代，DeepFake已经不再简单替换技术来生成，还有像活化（Animation）、编辑（Editing）以及合成（Synthesis）等攻击手段。

攻击形式，DeepFake也从简单的呈现式攻击朝着更为复杂的注入式攻击转变。

呈现式攻击，顾名思义，也就是在摄像头前放一张假脸，来突破检测技术。注入式攻击则是从系统层面来劫持摄像头，注入准备好的图片/视频，替换摄像头画面。

这也就给检测技术带来了不少的挑战。

ZOLOZ Deeper则是专门针对注入式、活化等复杂攻击手段的产品。

现在，ZOLOZ Deeper主要用于在用户刷脸场景中拦截 “AI换脸”风险。

从身份安全切入之后，他们还将进一步扩展到内容合规AIGC防控、金融诈骗场景、社交诈骗场景、舆情AIGC风险等多个实践中去。

如何实现？

最直接的思路是，用魔法打败魔法。

据透露，在技术实现上，ZOLOZ主要采取攻和防两条路线。

防这方面，ZOLOZ Deeper 搭建了端云一体的全链路技术体系，能应对系统、服务器、应用等多环节的安全威胁。

前端通过精密的传感器校验与多维特征动态风控，对摄像头状态、设备及网络环境、输入图像等进行严格审查，确保软硬件环境安全无风险，采集到的生物特征数据真实无篡改；

在用户操作过程中，运用深度学习模型对用户面部动态进行细致入微的分析，捕捉微表情、肌肉纹理、眼神流转等细微特征，精准判断其是否为真人实时互动。

攻则是借助天玑实验室来进行自动化攻防测评。

此前量子位曾探访过，这是一个高自动化的生物识别安全实验室。

天玑实验室投入大量的科研资源，自主研究生成了当下黑产攻击人脸安全的“道具”，定义了上百种不同级别的攻击方法和假体制作工艺。

此次，天玑实验室则是通过GAN模型生成超30万测试样本，来交给ZOLOZ Deeper 进行判别训练。

除此之外，每个月还会对它进行超过20000次的攻防测评，模拟上百种伪造攻击情况。

谁是ZOLOZ？

ZOLOZ是由蚂蚁数科孵化出来的科技品牌，主攻生物识别技术。最早在2015年支付宝上线的刷脸和支付，背后技术正是由他们来支撑。

2019年，他们就启动了DeepFake相关算法研发。当时还主要针对是一些简单的人脸攻击，比如将图片、视频、面具等Fake内容呈现在摄像头面前，攻破人脸识别系统。

而随着攻击手段逐渐复杂，ZOLOZ技术与产品也在不断升级迭代之中，ZOLOZ Deeper正是应对当下AIGC时代下的产品。

这样的研发实力，得到了市场和权威组织的认证。

比如在服务印尼某头部银行时，其产品上线一个月时间内实现了 Deepfake 风险“0 漏过”。

除此之外，ZOLOZ在2020年，作为亚太第一家，获得iBeta国际生物安全认证组织最高等级Level2认证。

另外在2023 年，ZOLOZ通过了中国信通院深度伪造视频检测服务能力检验，满足安全可靠、透明性、数据保护、明确责任、公平性等方面的可信能力要求。

上个月，有20年风险管理经验的赵闻飙担任蚂蚁数科 CEO。支付宝和蚂蚁集团的核心风控体系就是他牵头搞的。

ZOLOZ Deeper，也是他上任CEO以来首推的安全产品。

还悬赏百万给新产品找bug

最后，ZOLOZ还联合蚂蚁安全响应中设立了超百万的奖金池，诚邀白帽黑客们来给产品找bug，可以通过“蚂蚁集团安全响应中心”官网提报漏洞。

所以极客们赶紧关注起来～