AI换脸软件ZAO火爆，打开了人脸数据应用的潘多拉魔盒。“只需要一张照片，就可以演全世界最好的剧”，这是ZAO的宣传口号。在不少人对其变脸效果的逼真程度惊叹不已的同时，也有人开始担心：如果这项技术被别有用心的人利用，“只有一张照片”的你可能会成为色情电影演员或罪犯。主角或其他你不想成为的人。而这些虚假材料极有可能成为新型勒索或诈骗的得心应手的工具。就像网友们担心的那样：视频诈骗很快就会成为最流行的犯罪手段，对于识别诈骗能力差的老年人来说杀伤力极大……卸载ZAO（很多人都这样做过），也许吧可以减少你的一些顾虑。但一个严峻的事实是，除了ZAO，还有越来越多的机构和公司在收集和使用我们的人脸数据。例如，可以访问您的相册的应用程序，可以为您提供人脸解锁的手机制造商，可以验证您的身份并检测您的面部的金融或教育应用程序，甚至您办公楼中的面部识别门禁系统，安全摄像头无处不在。为了方便起见，我们正在将我们的人脸数据免费交给越来越多的新技术机构。这种趋势是如此强大，以至于个人似乎无法抗拒。个人信息的买卖几乎每天都在发生，现在我们连自己的“面子”都保不住了。除了上述AI换脸带来的诈骗风险外，攻击人脸识别系统进行身份诈骗所带来的财产、名誉、人身安全隐患也不容忽视，而3D打印技术的成熟是让《碟中谍》电影中的变脸场景成为现实。更可怕的后果是，一旦人脸数据与其他隐私数据打通，我们终将进入“裸奔时代”——当你走在大街上，拥有人脸数据的人，只要一瞥，就知道你的一切，知道你的身份。再看你，职业、收入、喜好、性格……不想成为数据的奴隶，今天就要开始认真对待自己的“面子”了。你的脸正在成为别人的事在北京中关村的一家咖啡店里，刘佳展示了她为燃彩做的创业项目。用户只需上传一张照片，几秒钟内就能自动生成一份12页的“职业报告”。报告会对一个人的性格特征、内在特征、外在特征进行详细的分析和评价。,目的是诊断他们适合的职业和管理风格。在对不同的面孔进行了几次尝试之后，我对它的准确度感到惊讶。“这绝对不是AI算命。”刘佳反复向燃彩强调，他的产品以遗传学、心理学、医学等科学为基础，结合人工智能、大数据等前沿技术。未来，刘佳希望将分析范围从职业拓展到情感、健康等领域。在笔者看来，刘佳这个项目的最终目标很可能是——用一张照片洞察你的一切。惊讶，带着恐惧。刘佳的项目只是人脸识别浪潮中的一小波。不可否认的事实是，我们的脸正在成为别人的事。不久前，人工智能公司旷视科技在港交所提交招股书。旷视科技成立于2011年，以人脸识别起家。在计算机视觉领域，它与商汤科技、依图科技、云从科技并称为CV（ComputerVision）四小虎。2016年、2017年和2018年，其营业收入分别为6780万元、3.13亿元和14.27亿元。资料显示，旷视科技为OPPO、vivo、联想等知名企业提供人脸识别相关服务。旷视科技上市的背景是人脸识别技术从公共领域快速延伸到消费领域。过去，由于技术创新不足、应用推广有限、成本高昂，人脸识别仅限于大众使用，并未进入更广泛的商业应用。在智能手机采用人脸识别技术之前，我们采集人脸数据的场景主要有：小区、街道、地铁、写字楼、商场、景区等公共场所，采集主要用于安全和管理目的。比如去年，张学友举办了全国巡回演唱会。演唱会前后共有10余名逃犯被捕。“功臣”是人脸识别技术，让张学友自己也不得不感叹：“我们国家真的是太先进了”。近年来，这种情况得到了扭转。智能手机的快速增加，移动支付习惯的养成，加之人们对智能家居的热衷，个人消费需求的增长，直接推动了移动终端消费级人脸识别应用的爆发。从这个角度来说，我们正在协助越来越多的厂商收集人脸数据。2017年，苹果推出了支持人脸识别解锁的新iPhoneX，小米Note3、vivoV7+等智能手机也推出了人脸识别功能。同年，支付宝、京东、苏宁也相继开通了刷脸支付功能。人脸识别的消费级应用场景开始拓展。与指纹识别、虹膜识别、语音识别等其他生物识别技术相比，人脸识别具有极高的便利性和良好的安全性，其应用场景也在不断增加。来源/中商产业研究院中商产业研究院报告显示，2019年，生物识别技术将进入规模化应用阶段。预计2020年我国生物识别技术（包括人脸识别技术）产业市场规模将超过300亿元。围绕人脸识别，在基础层（芯片、算法、数据）已经形成完整的产业链，技术层（视频人脸识别、图片人脸识别、数据库比对测试）、应用层（硬件、应用和应用方案）结构。如果你仔细观察，你会发现越来越多的线上线下场景都在加入人脸识别功能。过度使用人脸识别令人担忧ZAO的风波还没有过去，旷视的风波已经来了。人脸识别走进课堂日前，一张带有“旷视科技”标识的视频监控画面在社交网络上疯传。图中不仅显示了被监控的两名学生，还有他们的行为数据，如趴在桌子上、玩手机、睡觉、听课、看书、举手次数等。虽然旷视回应称这只是“概念演示”。但是关于隐私的讨论是压倒性的。大多数人认为技术虽然好，但应该“用在正确的地方”。对于人脸识别的应用，微软董事长布拉德·史密斯去年在一次技术研讨会上警告说：“如果不加以规范和监督，人脸识别技术将彻底改变人们的生活方式，让人感到安全，没有隐私可言。”这不是危言耸听，看看我们的科技公司是怎么打算的。教育是人脸识别的“重灾区”。不少教育科技公司推出了类似旷视科技的监控功能，号称可以分析学生在课堂上的行为，对异常行为进行实时反馈。一个自称是“智慧课堂行为管理系统”的描述是这样的：系统会每30秒扫描一次，针对学生的阅读、举手、写字、起身、听课、趴着六大行为表，结合面部表情是高兴、悲伤、愤怒还是厌恶，可以分析出课堂上学生的状态。目前，只有躺在桌子上是一种消极行为。如果这种注意力不集中的行为达到一定分数，系统就会向显示屏推送提醒，教师可以根据提醒进行教学管理。除了教室，高校所谓的“智慧校门”，教室门、宿舍出入口也安装了人脸识别系统。但大门只是入口，更多的解决方案提供者希望用AI来重构教育的全过程，所以出现了我们上面看到的场景。《2019年中国智慧教育行业市场发展及趋势研究报告》数据显示，2018年智慧教育市场规模突破5000亿元。众多AI科技公司、教育场景公司加入到分红争夺战中。巨头公司也不例外。京东曾推出一款基于人工智能的“超级眼镜”。据介绍，戴上“超级眼镜”的店员可以看到眼前顾客的会员信息、用户画像、购物倾向等重要信息，充分实现“知其所想，随心所欲”。2017年，京东还推出了自己的无人便利店，通过刷脸记录顾客的购买偏好，并留存这些消费行为信息。百度在百度钱包找回功能中使用了生物识别技术，腾讯微众银行在开户流程中使用了生物识别技术。微众银行的活体检测需要摄像头前的用户阅读一段文字，并配合语音识别检测。借助人脸识别、刷脸支付等黑科技的噱头，能够采集人脸信息的应用已经普及。如今，人脸识别应用变得娱乐化，人脸数据的采集门槛也在一步步降低。娱乐大大降低了厂商收集用户人脸数据的门槛当然，正如苹果CEO库克所说，“技术本身无所谓好坏，一切由我们决定。”人脸识别的应用边界在哪里？值得所有从业者深思。百度创始人李彦宏曾因为一句“中国人愿意用隐私换取方便”而引起舆论围攻。在判断技术好坏的时候，技术领导者的态度也很关键。可怕的后果早在2017年，前CIA技术分析员斯诺登就预测，以手机解锁为代表的人脸应用的出现，将使人脸扫描常态化，人脸识别终将成为现实。滥用。如今，随着越来越多的人脸数据被上传到云端，数据泄露或被非法使用的可能性大大增加。以ZAO为例，ZAO走红的原因之一就是降低了AI换脸的使用门槛。但这项技术也可能被用于虚假宣传。比如爱“炫富”的微商，曾经喜欢P图和奥巴马握手。以后会不会直接发假的握手视频？以前寄希望于以“马云语录”为平台进行各种骗人项目的微商，以后会直接发马云“个人代言”的视频吗？勒索和诈骗也需要警惕。2017年底，一位ID为“deepfakes”的国外网友首次使用AI换脸算法，此后被命名为deepfakes。随后，国外Reddit论坛上出现了大量AI换脸视频。但后来这项技术被滥用，有人开始利用换脸技术，将色情作品中的主角换成明星的脸，并上传到著名色情视频分享网站Pornhub。以后如果有人把我们的脸换成色情电影演员、犯罪主角、被绑架的人质……或者冒充我们进行视频通话（结合声音模拟技术），以此敲诈勒索、诈骗亲友，后果也将不堪设想。《每日邮报》日前，有消息称，今年3月，一名骗子利用AI语音模仿软件冒充公司老板，成功说服英国一家能源公司的CEO，让他相信自己正在与德国一家公司的老板打电话，骗了他22万欧元。未来，如果将类似的伎俩与换脸视频相结合，诈骗的成功率可能会更高。FaceTime是一款苹果手机内置的视频通话软件。曾有不少网友表示，对方在连接后处于黑屏状态。除了发送垃圾广告外，还有一种可能就是对方截取你的人像来破解人脸识别系统，想想就毛骨悚然。在淘宝上搜索“假脸皮”，即可轻松买到周润发、刘德华、周星驰等明星的乳胶面膜，价格极低，部分商家还可以接受定制。未来，随着3D打印技术的成熟，电影《碟中谍》中的场景或许很快就会成为现实。福布斯记者ThomasBrewster发表了一篇文章，描述了3D打印头如何成功骗过智能手机的人脸识别过程。ThomasBrewster合成了自己的完整3D图像，打印了3D头像，然后测试了5部手机的人脸识别功能。令人惊讶的是，其中有4人倒下了。人脸识别被成功骗过，意味着我们不能100%依赖人脸识别措施。ThomasBrewster的3D打印头唯一的好处就是换脸技术还不能大规模威胁到我们的移动支付安全。一位技术人员告诉燃财经，刷脸支付需要通过摄像头检测人像，而屏幕倒拍的方式目前还无法骗过摄像头的生物识别监控技术。但也不要太乐观。在美国有一个应用叫做Twinning。用户只需上传照片，通过面部识别就可以找到与自己最相似的明星。但是流行起来之后，却出现了非常严重的信息泄露。现在在谷歌搜索中，你仍然可以看到很多泄露的照片。因此，谨慎使用可能收集我们面部数据的应用程序非常重要。人脸识别在可能出现的“裸奔”时代最大的风险在于，一旦人脸数据泄露并与其他个人信息关联起来，将走向一个完全“透明”的时代。今年年初，燃财经曾报道乔达科技因非法窃取公民信息被查封，36人被检察机关依法逮捕。燃财经获得的一份文件显示，乔达科技称，其数据库拥有2.2亿份自然人简历，累计简历达37亿份。此外，乔达科技拥有超过10亿个通讯录，并掌握了相关的社会关系、组织关系、家庭关系数据。乔达科技由此赚取巨额利润。2016年乔达科技全年营收1.2亿元，净利润0.48亿元；2017年乔达科技全年营收4.11亿元，净利润1.86亿元，净利率超过45%。而它的杀手锏就在于数据的“打通”。人脸数据如果泄露并与其他数据关联，将带来灾难性的后果。由于其特殊性，人脸代表着一个人真实身份的确认。未来，一个很有可能的场景是：当我们走进一家商店，店员可以立刻知道我们的一切：身份、职业、收入、喜好、性格……而当这一天到来时，每个人都会在“条纹”状态。即使戴上口罩也无济于事，因为摄像头还能识别你的体型、你的步态。我们应该如何对待人脸识别人脸识别除非与世隔绝，否则不能被完全拒绝。对外经济贸易大学数字经济与法律创新研究中心执行主任许旭认为，不能一刀切禁止人脸识别技术的商用。理论上，所有数据都可能泄露。对于个人而言，便利性和个人信息保护之间存在权衡。对于那些看重个人信息甚于便利的人来说，最好完全不要使用任何需要人脸识别的APP，用市场机制来迫使企业做得更好。隐私保护。北京市安理律师事务所高级合伙人王新瑞表示，人脸数据在各国立法中通常被列为个人敏感信息。之所以灵敏，是因为它天生能够真实识别个人身份，终生不可更改，而且易于非接触式采集。在某些方面，生物识别信息真正定义了我们每个人。目前，很多国家都开始实施立法，加强对人脸信息采集和识别技术应用场景的约束。今年7月，继旧金山之后，美国第二个禁止人脸识别的城市。马萨诸塞州萨默维尔市议会通过投票，禁止在公共场所使用面部识别软件。新政策实施后，全市各机关、分局、直属部门一律不得在公共场所使用人脸识别技术。但只禁止公共场所的使用权，不涉及商业领域。我国也有数据相关的立法，目前正处于征求意见阶段。国家互联网信息办公室在今年5月发布的《数据安全管理办法（征求意见稿）》中规定：“隐私政策中包含收集、使用规则的，应当相对集中、明确标示，便于阅读。此外，网络运营商只有在用户知晓收集使用规则并明示同意后，才能收集个人信息。”以及“网络运营者不得以提高服务质量、增强用户体验、定向推送信息、并开发新产品。”王鑫瑞认为，换脸、变声等APP最大的问题在于，如果大规模采集的生物识别信息被泄露和滥用，会造成各种欺诈和伪造。而且生物特征信息的丢失会比其他身份信息更严重。数据的丢失造成了更严重的后果。主要原因是无法更改。比如邮箱、电话号码可以改，但人脸、声音、虹膜等信息泄露后，就没办法改了。AI进校园，生物识别技术逐步在校园应用9月5日，教育部科技司司长雷超子在接受澎湃新闻采访时表示，“（对于人工智能在校园的应用人脸识别技术）我们需要对其进行限制和管理。我们现在希望学校非常谨慎地使用这些科技软件。“到目前为止，人类在人脸识别技术面前仍然处于无奈的观望状态。”我们应该快点行动起来，在人脸识别的大规模危害正式发生之前。*题图来自视觉中国。应受访者要求，文章中使用刘佳为化名。
