防范“AI换脸”风险超百万奖金池支持漏洞挖掘_新浪财经

转自：北京日报客户端

4月16日，蚂蚁数科在京发布深度伪造（Deepfake）综合防控产品ZOLOZ Deeper，以拦截用户刷脸过程中的“AI换脸”风险，目前已率先应用在身份安全领域。公开资料显示，ZOLOZ是蚂蚁数科的科技品牌，以生物识别技术见长，历经支付宝App等大规模场景验证。

Deepfake是“deep learning”（深度学习）和“fake”（伪造）两个单词的结合，指的是基于深度学习算法，从大量的视频和图像数据中学习并伪造出逼真的面部动画和语音。Deepfake不仅增加了公众识别视频真伪的难度，也进一步滋生了诈骗、色情等违法犯罪活动的风险和隐患。

近年来，全球Deepfake事件呈10倍速度激增，北美、亚太地区等地成为 Deepfake 攻击的重灾区，2023年“315”晚会同样曝光了多起“AI换脸”诈骗案件。中国信通院人工智能研究中心安全与元宇宙部主任石霖指出，随着深度学习算法不断优化和创新，Deepfake带来的安全风险和隐私侵犯问题愈加严峻，且生成的内容越来越难以区分真伪，业界和学术界需要多管齐下，不断提高“以AI对抗AI”的能力。

技术人员介绍，ZOLOZ Deeper 搭建的技术体系能够应对系统、服务器、应用等多环节的深度伪造安全威胁。前端通过精密的传感器校验与多维特征动态风控，系统会对摄像头状态、设备及网络环境、输入图像等进行严格审查，确保软硬件环境安全无风险，采集到的生物特征数据真实无篡改；而在用户操作过程中，运用深度学习模型对用户面部动态进行细致入微的分析，捕捉微表情、肌肉纹理、眼神流转等细微特征，能够精准判断其是否为真人实时互动。

为了通过大量攻防演练精进安全防范能力，蚂蚁集团天玑实验室会通过GAN模型生成超30万测试样本，交给ZOLOZ Deeper进行判别训练，每个月还会对其进行超过20000次的攻防测评，模拟上百种伪造攻击情况。“Deepfake攻和防是一个相对且不断精进的过程，你在进步，Deepfake也在进步，我们要做的就是跑在它的前面。”ZOLOZ 相关负责人陶冶解释道。

此外，ZOLOZ 联合蚂蚁安全响应中心（AntSRC）设立了超百万的奖金池，支持安全极客来挖掘 ZOLOZ Deeper 的漏洞，通过“蚂蚁集团安全响应中心”官网提交漏洞情报。

据介绍，ZOLOZ在2019年启动了Deepfake算法研发，当时主要应对一些简单的人脸攻击，比如把图片、视频、面具等虚假内容呈现在摄像头前面，攻破人脸识别系统。此次亮相的ZOLOZ Deeper 是针对注入式、活化等复杂攻击手段迭代而来的，在服务印尼一家行业头部银行后，上线一个月时间内实现了深度伪造风险“0漏过”。