欧洲议会决定禁止公共场所警察人脸识别，因算法歧视弊大于利当地时间10月6日，欧洲议会以377票赞成、248票反对、62票弃权通过决议，要求执法机构在使用人工智能工具时要采取强有力的保障措施，比如禁止警察出现在公共场所。或者在边防检查中大规模实施人脸识别，禁止使用私域人脸识别数据库，根据行为特征进行预测监管。事实上，包括面部识别在内的人工智能工具在警务中的应用由来已久。然而，直到最近几年，它的风险还没有得到广泛重视。例如，人工智能对少数民族、LGBT人群、老年人和女性存在歧视。欧洲议会多位议员认为，在执法领域大规模应用带有算法偏差的人工智能技术，将带来损害公民基本权利的风险，这远远超过人工智能为破案带来的便利。因此，需要严格限制。欧洲议会通过一项决议。1禁止使用人工智能大规模监控人群。“不能假设每个人都是危险的”决议主要针对警察和司法部门在刑事问题上使用人工智能。据欧洲议会官网介绍，该决议的主要内容可归纳为三项：第一，人工智能系统要有人监督，算法要公开；用于预测监管和公民评分的数据；第三，生物识别技术不能用于边境控制和公共场所。欧洲议会表示，该决议旨在打击歧视并确保隐私权。“人工智能在执法领域的应用提供了巨大机遇，尤其是能够有效打击洗钱、恐怖融资等金融犯罪以及虐待儿童等网络犯罪，有助于欧盟公民的安全和保障。但与此同时，数据显示，AIRecognition对少数族裔、LGBT人群、老年人和女性的误识别率较高，这可能对人们的基本权利构成重大风险。”全面应用人工智能进行大规模监控的风险和影响是不相称的，因此，在执法领域，人工智能的使用必须始终保持人的责任，并首先旨在避免任何有害影响.该决议强调，如果个人过分相信人工智能工具表面上的客观性和科学性，而不考虑其结果可能不正确、不完整、不相关或具有歧视性的可能性，就会产生严重的负面后果。因此，算法应该是透明的、可追溯的和有据可查的。执法部门和司法部门应避免过度依赖人工智能系统提供的结果，并建立信心和知识来质疑或推翻算法建议。此外，该决议反对执法机构使用人工智能根据历史数据和过去的行为、群体成员、位置或任何其他此类特征对个人或群体进行行为预测，以试图识别可能犯下罪行的人。禁止在公共场所使用步态、指纹、DNA、声音等特征和信号进行永久性生物特征识别。也就是说，决议认为，在确定嫌疑人目标后，警方可以利用AI工具对嫌疑人进行追踪；谁是嫌疑人，或者根据行为数据，预测下一个有可能作案的人。“当局在犯罪发生后做出反应，而不是假设每个人都是危险的。”该决议的影响还可能延伸至非欧盟国家。决议强调，欧盟司法合作执行机构在处理其他国家的引渡请求时，有必要评估请求国使用人工智能工具是否“可能明显损害嫌疑人获得公正审判的基本权利”。值得一提的是，决议条款多使用呼吁、鼓励、强调等字眼，实际效果有待观察。2人工智能长期应用于警务活动，存在算法歧视。事实上，包括人脸识别在内的人工智能工具早已被用于警务活动。然而，直到最近几年，其他风险才被广泛考虑。据介绍，早在本世纪初，美国佛罗里达州皮内拉斯县警察局就开始使用人脸识别破案。现在，该系统已经能够访问超过3000万张图片。2017年，南威尔士警方启动了人脸识别试点项目。在当年6月举行的欧洲冠军联赛决赛中，警方通过现有的50万张人脸图像数据库比对并识别了观众身份。2470条告警中，错误2297条，正确173条，错误率高达92%。经过改进，南威尔士警方在两次大型体育比赛中进行了实验，最终将错误率降低到87.5%。尽管如此，在接下来的三年里，南威尔士警方仍然在辖区多处部署了人脸识别设备。该设备扫描路人的面部并提取生物特征数据，然后将其与后台数据库进行比对，以发现可疑人员，例如通缉犯。过去两年，美国至少发生了三起因警察使用面部识别技术却抓错人的官司。第一起案件的委托人是来自底特律的罗伯特·威廉姆斯，他因盗窃罪名被底特律警方拘留了30小时。在第二起案件中，同样来自底特律的迈克尔奥利弗因被判犯有通过面部识别盗窃罪被判入狱十天半。第三起案件，尼尔·帕克斯在40公里外的伍德布里奇被警方认定为盗窃案嫌疑人，并被拘留十天。不过，帕克斯表示他有不在犯罪现场的证据，而且他的指纹、DNA等信息与犯罪现场的不符。上述三起案件的当事人均为黑人。算法中的判别问题引起了人们的关注。麻省理工学院和美国国家标准与技术研究院（NIST）的研究表明，由于缺乏多样化的基础数据库，美国的许多人脸识别技术在识别有色人种方面的准确性较低。在现实生活中，也发生过不少黑人被算法歧视的事件。此前，南都曾报道推特的图片裁剪算法倾向于裁掉更多的黑人或女性；Facebook的自动推荐算法还将黑人识别为“灵长类动物”。欧洲议会限制执法机构使用人工智能的决议的核心依据之一是人工智能对少数民族、LGBT人群、老年人和妇女的歧视。不少议员认为，将带有算法偏差的人工智能技术大规模应用到执法领域，会带来损害公民基本权利的风险，这远远超过人工智能为破案带来的便利。因此，需要严格限制。多地出台法规规范生物识别技术。在美国，波特兰、奥克兰、旧金山和波士顿等城市已经禁止政府使用人脸识别技术。今年7月，纽约还出台规定，要求采集生物特征信息（如人脸、指纹）的企业在门口张贴显眼标志，向顾客说明企业正在采集顾客生物特征信息，禁止企业出售或销售交易生物识别技术。信息。但是，该法规不适用于包括警察在内的政府机构。欧盟对生物识别技术有更严格的规定。今年4月，欧盟提出旨在加强人工智能行业监管的草案，将人脸识别等远距离生物识别系统认定为“高风险”，“原则上禁止”执法机构使用该技术在公共场合，除非有儿童走失、恐怖袭击、罪犯被指认等情况。在我国，对人脸识别等人工智能技术的监管日趋严格。《个人信息保护法》8月20日通过的立法明确规定，在公共场所安装图像采集和个人身份识别设备，应当是维护公共安全所必需的，遵守国家有关规定，并设置显着提示标志。所收集的个人图像和身份信息只能用于维护公共安全的目的，不得用于其他目的；除非获得个人同意。编译/编译：南都记者马嘉璐
