当前位置: 首页 > 科技赋能

尽管员工反对,亚马逊仍将继续向 ICE 提供面部识别服务

时间:2024-05-22 13:34:38 科技赋能

亚马逊最近因向政府和执法机构提供和销售面部识别技术而备受争议。

亚马逊员工因 Rekognition 软件侵犯人权的指控而签署了一封致首席执行官的信。

杰夫·贝佐斯要求该公司停止向美国移民和海关执法局 (ICE) 出售面部识别软件 Rekognition。

亚马逊的云计算部门 AWS 运营 Rekognition,该软件目前由佛罗里达州和俄勒冈州的警察部门使用。

最近,在亚马逊召开的全体员工会议上,贝索斯邀请 AWS 首席执行官 Jassy 回答有关 Rekognition 潜在政府合同的问题。

Jassy指出,Rekognition具有巨大价值,可用于打击人口贩卖、寻找失踪儿童、涉及安全等。

和多因素识别,显然人们不希望这项技术消失。

然而,面部识别技术应该负责任地使用。

如果用户违反AWS的服务条款或侵犯宪法权利,亚马逊将禁止用户使用该服务。

政府还有责任帮助完善这项技术的指导和法规。

然而,Rekognition 在准确性和种族偏见方面存在严重缺陷。

今年 7 月,北加州的美国公民自由联盟 (ACLU) 对 Rekognition 进行了测试。

当该联盟使用 25,000 张面部照片进行面部识别测试时,Rekognition 识别出其中 28 人是之前被捕的罪犯。

亚马逊援引其深度学习和人工智能部门总经理马特·伍德(Matt Wood)博客文章中的数据反驳了这一说法。

Rekognition API 的测试数据显示置信度为 80%。

亚马逊还拒绝参加由美国国家标准与技术研究所 (NIST) 赞助的一项算法偏见综合研究,该研究旨在确定种族和性别偏见对面部识别算法错误率的影响。

事实上,亚马逊并不是唯一一家因向美国政府销售产品并提供产品支持而遭到自己员工排斥的科技巨头。

今年5月,谷歌与国防部合作的AI武器化项目Maven也引起了公司内部员工的激烈争论。

甚至导致一些员工辞职以示抗议。