北京时间10月10日下午消息，亚马逊的机器学习专家发现了一个大问题：他们的新招聘引擎不太喜欢女性。
据路透社援引五名知情人士的话报道，该团队自今年以来一直在开发用于审查求职者简历的计算机程序，希望能够实现人才搜索的机械化。
亚马逊在电子商务市场占据主导地位的关键始终是仓库或定价决策的自动化。
有人说，该公司的实验性招聘工具使用人工智能对求职者进行一到五星级的评分，类似于购物者在亚马逊上对产品的评分。
一位知情人士表示：“他们真的希望有一个引擎，我可以向你扔一份简历，你可以确定前五名候选人，然后我们会雇用这些人。
”但到了明年，该公司意识到其新系统无法在性别中立的基础上对软件开发人员职位或其他技术职位的申请人进行评级。
这可能是因为亚马逊的计算机模型经过训练，可以查看提交给该公司十年的简历并寻找模式。
大多数简历都是由男性提交的，这体现了男性在科技行业的主导地位。
事实上，亚马逊的系统自己学会了更喜欢男性申请者。
据知情人士透露，该系统会对包含“女性”一词的简历给予低星级评级。
它还对两所女子大学的毕业生给予了下调的评价。
知情人士没有透露两所学校的名称。
亚马逊已修改这些计划，使其对某些条款保持中立。
但这仍然不能保证机器不会找到其他方法以歧视性方式对某些申请人进行分类。
最终，由于高层管理人员对该项目失去了信心，这家西雅图公司去年初解散了该团队。
知情人士表示，亚马逊招聘人员过去在招聘新员工时会查看该工具提供的建议，但从未单独依赖这些排名来做出决定。
亚马逊拒绝就招聘引擎或其面临的挑战发表评论，但表示致力于确保员工队伍的多样性和平等。
该公司的实验还提供了机器学习局限性的案例研究。
对于希尔顿全球控股公司和高盛集团等越来越多希望实现部分招聘流程自动化的公司来说，这也是一个教训。
人才软件公司CareerBuilder在2017年进行的一项调查显示，55%的美国人力资源经理表示，人工智能将在未来五年内成为他们日常工作中使用的工具。
雇主长期以来一直希望利用技术来扩大招聘网络并减少对招聘人员主观意见的依赖。
但一些计算机科学家，包括卡内基梅隆大学教授机器学习的尼哈尔·沙阿（Nihar Shah）表示，还有很长的路要走。
“如何保证算法的公平性，如何保证算法的可理解性和可解释性——这需要很长时间才能实现。
”他说。
亚马逊在男性话语方面的实验正值全球最大在线零售商的关键时刻。
由于低成本计算能力的激增，机器学习在技术行业中越来越受到关注。
亚马逊的人力资源部门也开始疯狂招聘员工：根据提交给监管机构的文件，该公司全球员工总数自今年6月以来增加了两倍多，达到57.57万人。
于是该公司在爱丁堡的亚马逊工程中心成立了一个大约十几人的团队。
据知情人士透露，他们的目标是开发人工智能技术，以快速抓取网络信息并找到值得招聘的求职者。
该团队开发了一个专注于特定工作职能和地点的计算机模型。
他们训练每个模型来识别过去求职者简历中出现的 50,000 个术语。
该算法将学习对 IT 求职者常见技能的重要性进行排名，例如编写不同程序的能力。
事实上，该技术会青睐那些在简历中使用动词来描述自己的候选人，这在男性工程师的简历中经常可见，例如“执行”和“爬行”。
性别歧视并不是唯一出现的问题。
支持模型判断的数据的另一个问题是，不合格的候选人被推荐到不同的职位。
知情人士称，由于该技术的随机反馈，亚马逊最终终止了该项目。
问题或解决方案？其他公司也在尝试，这表明雇主渴望在招聘中使用人工智能。
盐湖城附近的初创公司 HireVue 的首席执行官凯文·帕克 (Kevin Parker) 表示，自动化可以帮助公司摆脱他们长期依赖的千篇一律的招聘网络。
他的公司分析候选人在视频面试期间的言语和面部表情，减少对简历的依赖。
“你不会再用同样的旧方式来招聘。
你不只是看候选人是否来自常春藤盟校，”帕克说。
他公司的客户包括联合利华和希尔顿。
该公司表示，高盛已经开发了自己的简历分析工具，可以将候选人与“最适合”他们的部门相匹配。
LinkedIn 隶属于微软，是全球最大的职业社交网络。
在这方面，已经取得了明显的进展。
它使用算法根据网站上发布的职位发布为雇主提供求职者排名。
LinkedIn Talent Solutions 副总裁 John Jersin 表示，该服务并不能取代传统招聘人员。
“我当然不会相信任何人工智能系统能够自行做出招聘决定，”他说。
“技术还没有达到那个程度。
”一些活动人士对人工智能的透明度表示担忧。
美国公民自由联盟 (ACLU) 正在争取立法，允许对经过研究人员和记者测试后使用歧视性算法的招聘网站进行刑事起诉。
“我们越来越关注算法的公平性，”美国公民自由联盟种族正义项目的律师雷切尔·古德曼 (Rachel Goodman) 说。
但古德曼和其他人工智能技术的批评者承认，就自动化招聘起诉雇主是极其困难的：求职者可能永远不知道公司是否使用该技术。
对于亚马逊来说，该公司已经成功地从失败的人工智能项目中吸取了教训。
据知情人士透露，该公司目前正在使用其招聘引擎的“淡化”版本，这将帮助其处理一些基本任务，包括从数据库中清除重复的申请人资料。
该公司还在爱丁堡成立了一个新团队，再次尝试自动化招聘筛选，这次重点关注多样性问题。