在过去的几年里，人脸识别技术是发展最快的新技术之一。推动人脸识别技术发展的主要是机器学习、云计算等人工智能相关技术的快速进步，以及摄像头越来越清晰和廉价。人脸识别技术已经应用在很多人的手机上。刷脸购物、刷脸登机等早已不是新鲜事。在中国，人脸识别技术的发展往往被视为一项令人鼓舞的技术进步，它的广泛应用也能引起很多人的自豪和赞叹。然而，在欧美国家，人脸识别技术正遭遇越来越多的质疑和限制。今年5月，旧金山市通过了一项决议，禁止警察和其他公共机构使用人脸识别技术。这个决议非常具有代表性，因为旧金山所在的硅谷湾区一直是数字技术创新的中心。随后，属于旧金山的加利福尼亚州奥克兰和马萨诸塞州萨默维尔（Somerville）也出台了面部识别禁令。在国家层面，两名参议员提出了一项限制面部识别技术使用的法案，该法案目前得到了共和党和民主党的两党支持。众议院议员也在准备相关法案。8月底，英国《金融时报》报道（https://www.ft.com/content/90ce2dce-c413-11e9-a8e9-296ca66511c9）：欧盟正在考虑对人工智能技术进行严格限制。在正在规划的监管计划中，如果公共当局或商业公司想要使用人工智能技术，那么所有参与其中的欧盟公民都有权知道：他（她）的面部数据何时被使用。为什么这些欧美国家和城市对这项新技术如此警惕？在本期通讯中，让我们谈谈这个问题。限制对象：不是个人，而是公权力和商业公司。首先，这些对人脸识别技术的禁令并不禁止个人使用这项技术，更不禁止这项技术的发展。也就是说，你用自己的脸来解锁你的iPhone，完全不受限制。真正受到限制的是公共机构（政府、警察等）和商业公司对人脸识别技术的应用。这其中的一个核心逻辑是：消费者在使用人脸识别技术时，是自愿使用的，并且知道自己的脸正在被识别。但是，如果它被公共当局使用，比如警察使用这种技术在公共场所进行监控，那么公众可能不知道他们的脸正在被拍照、扫描、分析、比对并被收录到数据库中。人脸识别系统是不可能关掉的。这种差异让欧美国家普遍认为，公权力使用人脸识别技术应该设置高得多的门槛。当然，公共当局使用人脸识别技术可以带来很多好处，比如提高破案率和降低犯罪率。一个实际案例：去年6月，马里兰州《The Capital Gazette》报社发生大规模枪击案，造成5人死亡。警方破案时，利用人脸识别技术锁定嫌疑人。但这些公共安全利益不足以抵消该技术将被滥用的担忧。美国公民自由联盟(ACLU)是倡导限制公共当局使用该技术的最活跃的非政府组织之一。该机构的律师马特卡格尔表示，“这项技术赋予政府前所未有的权力来追踪人们的日常生活。这种权力太大了，与健康的民主不相容。”他认为旧金山的禁令可以起到一定的作用。其作用是防止这种危险的技术被用于对付公众。(https://www.nytimes.com/2019/05/14/us/facial-recognition-ban-san-francisco.html)卡格尔律师还强调，我们不知道政府和企业在多大程度上使用这项新技术，因为他们一直保密，而公众常常被蒙在鼓里，这是一个非常危险的情况。简单地说，这些欧美国家限制公共当局使用人脸识别技术，以防止出现压迫性的监视状态。这些国家通常也被称为“奥威尔式”国家——参考奥威尔的经典小说《1984》。小说中，老大哥通过电幕无时无刻不在监视着人们的生活，支持着可怕的极权统治。为了避免这种可怕的情况成为现实，这些国家愿意在一定程度上做出妥协，不使用人脸识别来追求检测率的提高。与公共权力机构相比，商业公司似乎不具备建立“奥威尔式”规则的能力，为何要对其加以限制？这主要是因为，如果不对商业公司进行限制，它们可能会出于商业利益的追求，大规模收集人脸数据，并可能在未经消费者本人同意的情况下出售和滥用这些数据。很多人认为，人脸数据是个人信息中最敏感的生物识别数据，滥用后果最严重，应该最大限度保护。人脸识别技术的误区和偏见这些欧美国家和城市对人脸识别技术进行限制，还有一个很重要的原因：技术本身还不成熟，错误较多，会造成对不同人群的歧视。人们。今年4月，一名18岁的美国大学生起诉苹果公司，指控苹果公司在店内使用人脸识别技术，该技术将他误认为是小偷，导致他莫名其妙收到传票，后来被被警方逮捕。逮捕对他造成了严重的精神伤害。这名大学生正在向苹果公司寻求10亿美元的赔偿。苹果否认了这些指控。不管本案的判决结果如何，我们都可以清楚地知道，目前的人脸识别技术确实有可能造成“冤假错案”。1月，ACLU测试了亚马逊开发的面部识别系统Rekognition，以识别美国立法者的照片。结果，该系统将多达28名国会议员识别为罪犯。特别值得一提的是，在欧美国家，人脸识别技术对白人的识别准确率远高于有色人种（尤其是黑人），男性识别准确率高于女性识别准确性。(https://www.theverge.com/2019/1/25/18197137/amazon-rekognition-facial-recognition-bias-race-gender)这样的结果并不令人意外。在开发人脸识别技术时，研究人员用来训练机器的照片大多是白人男性，因此机器对白人男性的识别能力更强。相比之下，由于缺乏识别黑人和女性的经验，机器在识别少数民族和女性时更容易出错。这种偏见是由于社会上存在的不平等现象而产生的，并且加剧了这些不平等现象，因为一旦警方大规模使用该技术，弱势群体更有可能被判错罪。这种写在技术上的偏见，往往很容易被人忽视，因为人们很容易接受这样的观点：人是有情感的，容易产生偏见，而机器是没有情感的，所以应该客观公正。然而，正如之前Newslab成员通讯中反复提到的那样，技术是在特定社会条件下的人们开发的，技术本身可能存在很大的偏见。如果我们把一切都交给一台看似公平的机器，以为一切都会好起来，那么可能的结果将是社会不平等的进一步加剧和正义的进一步丧失。技术是人们在特定的社会条件下发展起来的，技术本身也可能存在很大的偏见。基于伦理的人工智能发展正是基于以上两点原因，欧美多个国家和城市对人脸识别技术的应用进行了严格的限制。旧金山在限制性法令通过的同时通过了第二条更广泛的规定。根据新规定，旧金山的公共当局如果想购买监控技术，必须提前申请批准。这些监控技术包括自动车牌扫描仪、带摄像头的无人机等。科技媒体Recode（https://www.vox.com/recode/2019/5/14/18623897/san-francisco-facial-recognition-ban-explained）的一篇文章指出，数字隐私立法的速度在美国正在慢慢地，一些美国人似乎愿意为了方便而牺牲隐私（并且基本上向公司提供个人数据，而不是政府）；然而，人脸识别技术很可能会触及美国文化的一个敏感点，即个人自由权利的价值和对政府滥用权力的恐惧。因此，美国在制定针对面部识别的立法方面要快得多。对于欧盟而言，对面部识别技术的限制是更广泛监管计划的一部分。该计划可以称为“基于伦理的人工智能法律”。此前的会员通讯还提到，欧盟在数字技术的发展方面并不领先，但在数字技术的监管方面处于世界前列。当然，欧盟发展监管的目的并不是要打压新技术，而是希望新技术尽可能造福于社会，而不是带来副作用。在欧盟立法者看来，对人工智能技术的限制实际上可以增加公众对这项技术的信任度和接受度，最终实际上有利于这项技术的健康发展和正确应用。据《金融时报》报道，欧盟希望通过这方面的立法，建立“人工智能监管的世界标准”，通过明确、可预见、统一的原则，充分保护个人的权益。
