只需在应用程序上上传一张照片，您就可以将自己的脸换成明星的脸，成为影视作品中的主角。近日，一款名为“ZAO”的AI换脸APP火爆朋友圈。在走红的同时，也因隐私和安全问题引发了网友的集体焦虑。9月3日，工信部网站发布公告称，针对近期热议的ZAOApp网络数据安全问题，约谈相关负责人，要求组织自查整改。zao背后的狂欢与隐忧8月30日晚，一款名为ZAO的AI换脸APP突然被疯传。用户只需要用手机号注册，提交一张清晰的人脸照片，就可以“一键无缝”将你想要的明星脸换到自己身上，几乎可以造假。ZAO以其零门槛、操作简单、代入感强的特点，迅速在朋友圈引起了一阵狂欢。仅一天时间，它就登上了AppStore榜单的第2名。有评论说和抖音一样上瘾，“刷个通宵”。然而，狂欢过后，隐私和安全问题很快引发了网友的集体焦虑。人脸信息毕竟是一种“生物信息”，一旦泄露，其影响将远大于上网时数据信息泄露的风险。而且，网友们发现，“ZAO”的用户隐私协议简直就是霸道条款。虽然《ZAO》后来修改了用户协议，但并没有消除网友对AI换脸的顾虑。9月3日，ZAO用户隐私协议不规范、数据泄露风险等安全问题引发监管部门关注。目前，工信部已对相关负责人展开约谈，要求其进行自查整改。然而，一项“整改后，你还愿意在《ZAO》上玩换脸吗？”的网络调查显示。显示，大部分网友选择了“算了，还是不放心”。刷脸支付安全吗？对于用户来说，ZAO换脸服务最大的风险在于用户人脸数据的采集。除了隐私，换脸应用也被质疑存在支付风险。毕竟人脸、指纹、虹膜都是可以用来进行身份识别的信息。对此，上海交通大学人工智能研究院教授倪冰冰认为，无论目前的人脸识别算法或反攻击算法多么先进，仍然存在被人工假人脸攻破的风险.现在有反制Sample技术，在一些伪造的人脸识别图像或视频上，一个小的激活，比如局部改变颜色或纹理，就可以欺骗人脸识别算法，让这个伪造的人脸通过人脸认证，所以风险永远存在。在ZAO安全风险被质疑后，支付宝回应刷脸支付的安全问题时表示，对于网上各种换脸软件，支付宝的人脸识别技术目前还逃不过识别。不过，央视3.15联欢晚会此前曾报道，一张照片就能骗过人脸识别，更何况这次是动态“人脸”，警惕性不能放松。此外，还有网友担心如何保证我们的“面子”不被出卖，不流入色情产业链。毕竟谁都想要“面子”。人工智能如何发展其实，AI换脸并不新鲜，ZAO也不是第一个发明。在苹果、安卓应用市场搜索“AI换脸”主题，还有“AI换脸”、“美颜科技”、“团子相机”等产品。早在2017年底，一位ID为“deepfakes”的国外网友就创建了AI换脸算法deepfakes。这个AI换脸程序曾经风靡国外。后来，因为有人将这项技术应用到色情视频中，许多公众人物成为受害者，随后被屏蔽。然而，人工智能换脸技术一直在不断发展，直到现在。比如今年年初，B站UP主“变脸师”就利用这项技术，将94版《射雕》中朱茵饰演的黄蓉换成了杨幂的脸。未来已来，人工智能应该如何在保障安全的基础上发展？倪冰冰建议，从法律监管的角度，尽快制定相关法律法规，规范目前人工智能的应用，哪些领域可以应用，哪些领域不能应用，是否可以应用。应用于某些领域，应遵守法律底线。另一方面，从人工智能研究者和应用提供者的角度来看，他们应该形成自我约束的伦理规范，什么可以研究，什么不能研究，这些约束应该以行业标准的形式固定下来，并且对公众开放、接受监督，让普通人可以使用人工智能技术带来的便利，而不必担心其带来的风险。
