今天的人工智能面部识别算法并不完美。以下是企业在考虑部署该技术时应该了解的内容。1月份全美零售联合会(NationalRetailFederation)在纽约举行的大型展会期间，向零售公司推出的新兴系统包括配备人工智能面部识别软件的货架摄像头，可以按年龄、性别和种族识别购物者。这个想法是为实体店提供人口统计信息，以指导他们如何向个人客户进行营销。这对于像亚马逊这样一直在利用客户数据的在线零售商来说具有竞争优势。但是，让相机以一种他们甚至不会注意到的方式为您的客户拍摄照片是不是太过分了？除此之外，还有其他问题。如果该软件错误地将男性识别为女性并为其提供女性卫生用品折扣怎么办？后果是什么？在零售环境中的后果可能不是特别重要，但客户可能会生气并在社交媒体上分享他们的观点。在互联网上谈论它，永远不要回到那家商店购物。但在机器视觉和人工智能面部识别软件的其他应用中，后果会更严重吗？事实证明，人们非常关注人工智能驱动的面部识别软件，许多主要供应商都在商业上提供这种软件，其中包括微软、IBM和亚马逊。最近的一项研究关注的事实是，一些商业算法在识别肤色较深的人和女性方面不如肤色较浅的男性准确。这是之前讨论过的话题。例如，2018年7月，当美国公民自由联盟(ACLU)将亚马逊算法应用于美国国会议员的照片时，该算法将其中28人识别为因犯罪而被捕的人。麻省理工学院媒体实验室最近的一项研究提出了这样一个问题，即对这些商业算法的公开审计是否会影响供应商对提高算法准确性的关注。该研究由麻省理工学院研究生JoyBuolamwini共同撰写，他也是算法正义联盟的创始人，该组织声称致力于解决算法中的偏见问题。研究表明，算法最擅长识别肤色较浅的男性。他们不擅长识别女性或肤色较深的人。该研究还指出，一些供应商在向他们指出这些问题后改进了他们的算法。亚马逊对这项研究的回应发表在《纽约时报》，Buolamwini发表了她对该问题的声明和回应，以及供应商对媒体的回应。在机器学习中，结果可能有偏差或不准确，具体取决于所使用的训练数据的数量和类型。例如，亚马逊使用机器学习来筛选求职者的简历，最终以男性候选人居多。这可能是因为在用于训练算法的历史数据库中，男性多于女性。通过向用于训练算法的数据池中添加更多数据或数据源，供应商可以提高其人工智能面部识别系统的准确性。但是，供应商还提供了一个安全阀来防止这些算法缺陷。这些系统允许组织客户设置阈值或置信度。这可以根据组织为结果计划的行动类型来设置。在全国零售联合会展会上展出的零售系统展示了它的工作原理。例如，就性别而言，这些系统可能会确定某人是男性，但它们也会提供一个置信度分数，基本上表明他们有67%（或其他百分比）确定此人是男性。零售商设定了他们愿意接受的信心水平。因此，如果某人被推断为具有67%置信度得分的男性，并且零售商将阈值水平设置为60%，则客户将看到专为男性量身定制的报价。如果零售商将阈值分数设置为70%，则客户的67%分数将达不到该阈值，并且客户将看到可以向任何客户（男性或女性）提供的通用报价。例如，如果风险很高，组织可能会在执法应用程序中设置99%的阈值，这可能会改变某人的生活轨迹。如果赌注不是那么高，他们可能会将标准设置在较低的水平。提高隐私意识但是收集客户图像是否存在隐私问题，尤其是在GDPR法规和其他新的数据隐私法时代？全国零售联合会展会的一位展位代表表示，不会保留客户图像。但是，有关访问特定展示的客户的人口统计数据的汇总数据将被保留和分析，以帮助零售商深入了解他们的客户。企业应该尝试人工智能面部识别软件吗？这可能取决于应用程序和风险级别。对于希望获得超越其数字竞争对手的优势的实体零售商而言，这些应用程序可以打开一个前所未有的数据和洞察力世界。在其他情况下，机器视觉技术用于查找人物图像并将它们与已知图像的数据库进行匹配，例如在打击贩卖儿童的斗争中。AI可以显示可能的匹配项，并最终确定是否找到了匹配项。在此类应用中使用人工智能的好处在于，无论是在拥挤的体育赛事中实时识别失踪儿童还是恐怖分子嫌疑人，算法都可以在几秒钟内分析并做出匹配。但在这些高风险应用程序中，让人类在循环中进行最后一次调用将是防止这种新兴技术出错的重要保障。这是企业应该牢记的。人工智能人脸识别技术还是一项新技术，显然还不完善，需谨慎对待。此外，与许多新兴技术一样，迄今为止还缺乏许多管理其使用的法规。这些法规很可能会在未来几年内出台。
