日前，据外媒报道，旧金山宣布了一项“减少偏见的工具”，计划于7月1日实施。自动编辑警方报告中识别嫌疑人种族的信息的技术。该工具旨在防止检察官在决定某人是否应该被指控犯罪时受到种族偏见的影响。图片来源：THEVERGE所有者：THEVERGE旧金山地方检察官乔治·加斯科恩在新闻发布会上说，在美国被监禁的人中，有色人种比例过高。此外，他指出，当检察官看到像埃尔南德斯这样的名字时，他们会立即知道此人是西班牙裔，这可能会影响结果。此前，旧金山曾承诺不让检察官在报告中看到与种族相关的信息，但只是去掉了报告的前两页，其余检察官仍然会看到，所以他们想用机器学习来减少偏见。据旧金山地方检察官办公室称，该工具不仅可以删除种族描述，还可以删除眼睛颜色和头发颜色等描述。可能向检察官透露的人名、地点和街区、地点和街区，无论有意或无意，都有某种种族背景的嫌疑人，也被删除了。不仅如此，该工具还会删除警察的详细信息，包括他们的徽章号码，以防检察官碰巧彼此认识并可能对他们的报告产生偏见。此外，值得注意的是，地方检察官办公室称这是“全国首例”使用该技术，之前没有任何机构使用人工智能来做到这一点。该工具将首次在美国使用，由AlexChohlas-Wood和斯坦福计算政策实验室的一个团队开发。新工具基本上只是一个轻量级的网络应用程序，它使用多种算法自动编辑警察报告，使用计算机视觉识别报告中的单词并将其替换为通用版本，例如位置、警号等。此外，Wood表示，该工具正处于由旧金山科技公司免费开发的最后阶段，将在数周内开源供其他公司采用。目前，尚不清楚该系统的运作情况，因为我们还没有看到该系统根据警方报告采取行动。不过，当记者问及如果男扮女装或女扮男装，该工具是否还能修改信息时，Gascón只是表示，今天是一个起点，该工具会继续进化.此外，该工具仅用于首次逮捕后审查，检察官仍将根据完整的、未经编辑的报告做出最终决定。而且，如果最初的定罪证据是视频资料，也能把嫌疑人的种族暴露的一清二楚。虽然不知道这个工具能不能帮上忙，但值得注意的是，上个月，旧金山刚刚发布了人工智能人脸识别禁令，是全球第一个发布该禁令的城市；而禁令的原因之一，就是人脸识别技术存在种族偏见。归根结底，AI是否存在偏见或能否消除偏见最终还是要看AI技术，而针对AI争议频发的现状，雷锋网认为AI技术的发展还有很长的路要走.本文转载自雷锋网。如需转载，请在雷锋网官网申请授权。
