当前位置: 首页 > 科技观察

研究表明人工智能工具无法减少招聘偏见

时间:2023-03-19 21:58:08 科技观察

剑桥大学的研究人员在期刊《哲学与技术》(哲学与技术)中写道,人们对解决面试偏见等问题的新方法越来越感兴趣。“人工智能的实际应用越来越普遍,但在通过视频或指标筛选候选人方面,仍处于‘伪科学’层面。某人力资源专业机构曾对媒体表示,人工智能技术有望对抗偏见。”2020年对500名人力资源专业人士的跨国调查发现,近四分之一的从业者正在使用人工智能“自动化人才选择”。但研究发现,这种减少偏见的努力似乎并不奏效。剑桥大学性别研究中心的博士后研究员KerryMackereth在接受采访时表示,这个故事完全是“胡说八道”。不能训练这些工具来简单地识别与工作相关的特征,并且它们不能将性别和种族排除在招聘过程之外,”她解释说。“这是因为人们认为员工的素质与他们的能力有着千丝万缕的联系。性别、性别和种族。”特质和种族有着内在的联系。”研究还指出,一些公司也发现这些工具本身存在问题。2018年,亚马逊宣布将放弃开发人工智能驱动的招聘引擎,因为它发现它会从简历中检测性别,歧视女性求职者.“现代颅相学”研究人员还特别关注可以“分析候选人言语和身体动作细节”的工具,他们说这些工具还可以表明候选人是否有资格担任特定职位。研究合著者EleanorDrage博士说视频和图像分析技术“没有科学依据”,并将其斥为“现代颅相学”——一种依靠头骨形状来推断人格和智力的虚假理论。她强调:“他们认为他们可以理解每个通过面部观察来了解他人的性格。这个想法和测试工具一样不可靠。AI无法‘看透’面孔,看到真实的内在。”剑桥工具截图研究人员还与六名计算机科学专业的学生一起,构建了自己的简化版AI招聘工具,根据求职者的照片对求职者的照片进行评分他们所谓的“五大”人格特质:宜人的、外向的、开放的、认真的、神经质的。各种不相关变量的影响。“在使用这些工具时,您可以通过调整图像的对比度/亮度/饱和度来看到,人工智能得出的性格结论会发生变化,”DrageDrage写道。TheRegister指出,其他调查也得出了类似的结论。一家德国公共广播公司甚至发现,在视频中戴眼镜或戴头巾会影响候选人的最终性格。分数。英国特许人事与发展研究所的HayfaMohdzaini指出,他们的研究表明,只有8%的雇主使用AI技术来筛选求职者。“人工智能确实可以通过增加候选人池的整体规模来帮助组织增加多样性——但如果规则和培训数据不完整或不准确,它也有可能错过许多优秀的候选人,”她总结道:“目前,人工智能分析候选人的演讲和肢体语言的软件还处于起步阶段,当然有巨大的机会,但也有风险。”