4月16日,ZOLOZ Deeper深度换脸综合防控产品在京正式发布,拦截“AI换脸” “AI换脸”风险在身份安全领域首创 公开资料显示,ZOLOZ是蚂蚁数码旗下的技术品牌,以生物识别技术闻名,并在支付宝等大规模场景得到验证。
App.图片:ZOLOZ产品总监和涛野ZOLOZ Deeper通过精密的传感器校准和多维度构建了端云集成的全链路技术体系,应对系统、服务器、应用程序等多个环节的Deepfake安全威胁。
具有动态风控功能,前端对摄像头状态、设备及网络环境、输入图像等进行严格审核,确保软硬件环境安全无风险,采集的生物识别数据真实、免费篡改;操作过程中,利用深度学习模型对用户的面部动态进行详细分析,捕捉微表情、肌肉纹理、眼球运动等细微特征,准确判断是否是真人式实时交互。
此外,蚂蚁集团天机实验室将通过GAN模型生成超过30万个测试样本,交给ZOLOZ Deeper进行判别训练。
每月还会进行0次以上的攻防评估,模拟数百种假冒攻击情况。
“Deepfake的进攻和防守是一个相对的、不断完善的过程。
你在进步,Deepfake也在进步。
我们要做的就是走在前面。
” ZOLOZ产品总监涛也说。
记者在发布会上获悉,ZOLOZ与蚂蚁安全响应中心(AntSRC)设立了超百万奖金池,支持安全极客挖掘ZOLOZ Deeper漏洞,并通过“蚂蚁集团安全”官网提交漏洞情报响应中心”。
陶野表示:“互联网世界没有绝对的安全,我们希望与外部安全技术人才合作,持续提升ZOLOZ的安全水平,保障用户的安全感。
”据介绍,ZOLOZ 早在 2016 年就开始了 Deepfake 算法的开发,当时主要应对一些简单的人脸攻击,比如在镜头前呈现图片、视频、面具等虚假内容来破解人脸识别系统。
ZOLOZ Deeper是一款针对注入、激活等复杂攻击方式的迭代产品。
该产品服务于印尼某领先银行后,上线一个月内实现了Deepfake风险“零泄漏”。
Deepfake 是“深度学习”和“假”这两个词的组合。
它是指基于深度学习算法从大量视频和图像数据中学习,伪造出逼真的面部动画和声音。
Deepfake不仅增加了公众辨别视频真伪的难度,还进一步滋生了诈骗、涉黄等违法犯罪活动的风险和隐患。
近年来,全球 Deepfake 事件激增十倍。
北美、亚太等地区成为Deepfake攻击的重灾区。
跨年晚会上还曝光了多起“AI换脸”诈骗案件。
中国信息通信研究院人工智能研究中心安全与元宇宙部主任石林指出,随着深度学习算法的不断优化和创新,Deepfakes带来的安全风险和隐私侵犯问题已经日益突出。
变得更加严重,生成的内容变得越来越难以区分真实内容和真实内容。
错的是,产业界和学术界需要多管齐下,不断提高“以AI对抗AI”的能力。
公开资料显示,ZOLOZ于2018年在亚太地区首家获得iBeta国际生物安全认证组织最高级别二级认证。
2017年通过中国信息通信研究院深度伪造视频检测服务能力检查,满足安全、可靠、透明、数据保护、责任明确、公平等方面的可信能力要求。