AI换脸以假乱真!蚂蚁数科发布反DeepFake产品,还设百万奖金池邀请黑客找bug

AI换脸以假乱真!蚂蚁数科发布反DeepFake产品,还设百万奖金池邀请黑客找bug

生成式AI人脸造假套路多,怎么办?

现在,专门用于DeepFake的综合性产品上新了——

ZOLOZ Deeper,蚂蚁数科ZOLOZ出品。我们日常的支付宝刷脸支付,正是依托于他们技术支撑。

值得注意的是,这可不仅仅是简单的AI检测算法,而是一套覆盖全链路的技术产品体系——

它能够有效应对系统、服务器、应用等多环节Deepfake安全威胁

而为了不断精进它的能力,内部实验室每个月都会对他进行超过20000次“攻击”测试。

甚至,ZOLOZ还对外拿出百万奖金池,邀请“白帽黑客”参与找Bug。

蚂蚁数科DeepFake产品上新

AIGC时代,DeepFake已经不再简单替换技术来生成,还有像活化(Animation)、编辑(Editing)以及合成(Synthesis)等攻击手段。

攻击形式,DeepFake也从简单的呈现式攻击朝着更为复杂的注入式攻击转变。

呈现式攻击,顾名思义,也就是在摄像头前放一张假脸,来突破检测技术。注入式攻击则是从系统层面来劫持摄像头,注入准备好的图片/视频,替换摄像头画面。

这也就给检测技术带来了不少的挑战。

ZOLOZ Deeper则是专门针对注入式、活化等复杂攻击手段的产品。

现在,ZOLOZ Deeper主要用于在用户刷脸场景中拦截 “AI换脸”风险。

从身份安全切入之后,他们还将进一步扩展到内容合规AIGC防控、金融诈骗场景、社交诈骗场景、舆情AIGC风险等多个实践中去。

如何实现?

最直接的思路是,用魔法打败魔法

据透露,在技术实现上,ZOLOZ主要采取两条路线。

这方面,ZOLOZ Deeper 搭建了端云一体的全链路技术体系,能应对系统、服务器、应用等多环节的安全威胁。

前端通过精密的传感器校验与多维特征动态风控,对摄像头状态、设备及网络环境、输入图像等进行严格审查,确保软硬件环境安全无风险,采集到的生物特征数据真实无篡改;

在用户操作过程中,运用深度学习模型对用户面部动态进行细致入微的分析,捕捉微表情、肌肉纹理、眼神流转等细微特征,精准判断其是否为真人实时互动。

则是借助天玑实验室来进行自动化攻防测评。

此前量子位曾探访过,这是一个高自动化的生物识别安全实验室。

天玑实验室投入大量的科研资源,自主研究生成了当下黑产攻击人脸安全的“道具”,定义了上百种不同级别的攻击方法和假体制作工艺。

此次,天玑实验室则是通过GAN模型生成超30万测试样本,来交给ZOLOZ Deeper 进行判别训练。

除此之外,每个月还会对它进行超过20000次的攻防测评,模拟上百种伪造攻击情况。

谁是ZOLOZ?

ZOLOZ是由蚂蚁数科孵化出来的科技品牌,主攻生物识别技术。最早在2015年支付宝上线的刷脸和支付,背后技术正是由他们来支撑。

2019年,他们就启动了DeepFake相关算法研发。当时还主要针对是一些简单的人脸攻击,比如将图片、视频、面具等Fake内容呈现在摄像头面前,攻破人脸识别系统。

而随着攻击手段逐渐复杂,ZOLOZ技术与产品也在不断升级迭代之中,ZOLOZ Deeper正是应对当下AIGC时代下的产品。

这样的研发实力,得到了市场和权威组织的认证。

比如在服务印尼某头部银行时,其产品上线一个月时间内实现了 Deepfake 风险“0漏过”。

除此之外,ZOLOZ在2020年,作为亚太第一家,获得iBeta国际生物安全认证组织最高等级Level2认证。

另外在2023年,ZOLOZ通过了中国信通院深度伪造视频检测服务能力检验,满足安全可靠、透明性、数据保护、明确责任、公平性等方面的可信能力要求。

上个月,有20年风险管理经验的赵闻飙担任蚂蚁数科 CEO。支付宝和蚂蚁集团的核心风控体系就是他牵头搞的。

ZOLOZ Deeper,也是他上任CEO以来首推的安全产品。

还悬赏百万给新产品找bug

最后,ZOLOZ还联合蚂蚁安全响应中设立了超百万的奖金池,诚邀白帽黑客们来给产品找bug,可以通过“蚂蚁集团安全响应中心”官网提报漏洞。

本文来源于网络。发布者:rmltwz,转转请注明出处:https://www.rmltwz.com/192909.html

(0)
rmltwzrmltwz

Warning: mysqli_query(): (HY000/1194): Table 'wp_posts' is marked as crashed and should be repaired in /www/wwwroot/www.rmltwz.com/wp-includes/class-wpdb.php on line 2349

Warning: mysqli_query(): (HY000/1194): Table 'wp_posts' is marked as crashed and should be repaired in /www/wwwroot/www.rmltwz.com/wp-includes/class-wpdb.php on line 2349

Warning: mysqli_query(): (HY000/1194): Table 'wp_posts' is marked as crashed and should be repaired in /www/wwwroot/www.rmltwz.com/wp-includes/class-wpdb.php on line 2349

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注