当前位置: 首页 > 科技观察

种族大棒之下,人脸识别将何去何从?

时间:2023-03-20 00:14:21 科技观察

在美国,白人警察对黑人平民的过度执法司空见惯。近日,继一名白人警察“跪掐”一名黑人男子至其死亡后,一场史无前例的反种族歧视抗议行动在美国上演。这一行动开始后,美国各地纷纷响应。一度,示威者甚至趁势趁机“打、砸、抢”黑店以外的其他族裔店铺。所谓“海外奢侈品低价进货无发票,下单立马联系黑哥抢”甚至已经出现在国内朋友圈。抗议活动愈演愈烈,美国科技巨头纷纷发声。周一,IBM首席执行官ArvindKrishna呼吁美国国会实施改革,以促进种族平等和打击系统性种族主义。 同时,他宣布IBM将正式退出人脸识别业务。据了解,IBM的人脸识别技术已被多家公司部署,但其针对不同种族和性别的算法并不准确,导致一些人认为IBM涉及种族和性别歧视。种族大棒之下,人脸识别将何去何从?从股价来看,虽然没有证据表明8月和9月的下跌与IBM放弃人脸识别有直接关系,但不免让人联想到前因后果。就在今天,在IBM之后,亚马逊宣布将在明年内暂停警方使用人脸识别技术(打击人口贩卖除外)。亚马逊不同于IBM。IBM公关重点不在人脸识别技术,业务份额不高。从某种意义上说,对公司影响不大。但对于在美国是“专业”人脸识别用户的亚马逊来说,此时的一波“停牌”可能会让在国外已经处于“两难境地”的人脸识别推广变得更加困难。当不完美的算法遇上“种族歧视”早在2018年,纽约时报英文网站就曾发表文章,指出当今非常流行的AI应用人脸识别,对于不同种族的准确率存在巨大差异。其中,黑人女性的错误率高达21%-35%,而白人男性的错误率不到1%。同时,法国公司Idemia的人脸识别服务在很多国家都有提供服务,但是他们做了一个测试,用两张一模一样的照片来测试算法是否标准,得到的答案是错误匹配的概率白人女性是万分之一,黑人女性错配的概率是千分之一,差了整整10倍。要知道,这和我国五十六个民族亲如一家的情况是不一样的。一个人无意中做的一件小事就可能被视为种族歧视,进而失去学业、工作或面临法律制裁。正因如此,人脸识别技术是一项罕见的未能在全球从业者中达成初步认知共识的技术。在我国,作为人脸识别等AI技术的天然试验田,安防行业在过去几年非常热闹。在各种技术交织的时代,监控设备不仅是终端商业落地场景,更是数据驱动的源头之一,地位非比寻常。在此背景下,这条赛道不仅吸引了海康威视、大华等传统安防企业,也吸引了PATH(平安、阿里巴巴、腾讯、华为)等无数大大小小企业。在大洋彼岸,这项技术的进步至今受阻。除了固有的人权和隐私问题,目前种族歧视的帽子也因算法不完善而被人脸识别技术扣下。人脸识别发展受阻,谁会倒霉?根据MarketsandMarkets的一份报告,人脸识别发展的主要驱动力包括:政府实施用户和数据安全举措的力度加大、移动设备的使用越来越多以及全球对强大的欺诈检测和预防的需求不断增长系统。由此我们不难得出结论,因为算法问题,种族歧视是背黑锅,进而导致技术发展停滞,普通人倒霉。从政府的角度来看,美国很多地区都出台了相关的法律法规禁止人脸识别的应用,虽然这些法律在过去都是出于隐私保护的考虑。在这封致国会的信中,IBMCEOArvindKrishna罕见地将“种族定性”与“人权和自由”并列,这极有可能导致未来有一天美国想要重??启人脸识别技术时,被称为"种族歧视"的枷锁被发现。从个人角度来说,先不说那些老生常谈的安全福利,说说疫情下人脸识别技术的额外优势。疫情之下,“非接触”这个曾经简单的诉求一时间被无限放大。在社区防疫过程中,新兴的人脸识别+红外测温门禁方案解放了大量人力物力。物质资源为防疫工作赢得了“空间”和“时间”。反观美国,截至今天,新冠患者超过200万,是我国峰值的数十倍。在各州几乎各自为战的时候,一种最有效的社区防疫手段却被贴上了种族歧视的标签而废除了。它会增加那些本来不会被感染的人被感染的可能性。结论虽然一刀切是最愚蠢的方法,但从某种意义上说,这是美国目前可以采取的唯一一种短期内能见效的方法。俗话说“摸着石头过河”,我们不妨再一次摸着石头过河,以此为鉴,总结自己的得失。截至目前,虽然我国人脸识别的发展还存在认证能力参差不齐、申请流程不够规范、法律效力未确认、数据保护力度不够等客观遗漏。但是,有无数人在为之努力、努力,让这个领域的监管有法可依、有章可循。