亚马逊AI招聘工具被曝歧视女性，官方宣布解散团队。这就是结局？这让我想起了1911年革命时上海外滩公园的一块告示牌，外面写着几行字——“中国人和狗不得入内”被撤掉了，上海人松了一口气。但歧视既不缺也不迟。时至今日，职场对女性的歧视依然严重。虽然很少有用人单位明目张胆地宣称只招男不招女，但招收女性的门槛都带有歧视性。除了考察工作能力，婚姻状况也被考虑在内。家庭状况、出生状况等等。而且，在进公司之前，这些你一直认为是隐私的问题，都会被直接、赤裸裸地问出来。更让人感到无能为力的是，随着人工智能技术的进步，这种职场歧视似乎正在加深。这两天，亚马逊的AI招聘工具被曝存在性别歧视。系统会给含有“女性”二字的简历打低星。即使技术人员修改程序使系统在某些方面保持中性，也没有人知道这台机器会产生什么新的辨别力。数据是社会的产物，技术中立是不可能的，这辈子都做不到。您如何看待技术中立？不带偏见，不偏不倚，人人都能平等享受科技带来的便利。这是公司的口号，不是事实。任何一种技术的发明，都不可避免地沾上了有血有肉的人的“色彩”。它是由人塑造的，受当前社会环境的影响，是社会的产物。至于人工智能技术，它是由数据驱动的。由于数据具有一定的社会属性，数据中的歧视会在人工智能招聘机上得到完整体现，甚至成倍增加。国科网的文章《当AI学会性别歧视》中提到了一个案例。某研究人员的研究内容是识别场景复杂的生活照片。她发现，被识别为女性的男性照片有一些共同点——他们都站在厨房里，或者做家务。这不是哪里有问题，而是机器从大数据上的认知是女性跟某些元素有关，比如厨房，比如家务。似乎无论在哪个国家，女性的联系都比家庭更紧密。波伏瓦说，人不是生来就是女人，而是她成了女人。我们不自觉地变成女人，不自觉地认同女人。机器仿佛是《皇帝的新衣》里那个天真无邪的孩子，敏锐地察觉到我们身为女性所背负的标签（主动或被动），最后以近乎残忍的方式呈现出来。正如人们常常认为男孩比女孩更适合科学，人们有一种固有观念认为男性比女性更适合担任领导职务，男性比女性更擅长决策，等等。在谷歌的广告服务中，男性会比女性看到更多的高薪招聘广告。这些既定事实让女性的职场天花板更加明显。乐观一点，随着社会的进步，职场上对女性的歧视会逐渐改变。悲观一点，先不说。在实际的机器训练中，如果数据驱动的技术能够充分体现数据本身的内在联系，人们无疑会认可这种技术，但如果这种技术所反映的内在联系是人们不希望它反映的东西呢？这些光明，所谓的技术中立能解释公然冷酷的职场歧视吗？正如剑桥大学教授RuneNyrup所说，“没有事实上的技术中立。对于机器来说，中立的才是主导的。”AI招聘中，有没有公平的算法？人工智能歧视存在很多问题。上线一天就变成反犹、性别歧视、种族歧视等“坏女孩”，那么未来人工智能招聘能否实现真正的公平呢？事实上，AI可以应用到招聘的很多方面，比如筛选简历、视频面试、聊天面试等，筛选简历是个大工程，少则几十份，多则上百份。做过HR的朋友曾经说过，有时候简历太多了，分成两半，另一半直接扔进垃圾桶……所以，这种重复又琐碎的工作最适合人工智能。但是，人工智能筛选简历需要量化公平性，让公平性转化为可操作的算法。人工智能聊天机器人的使用，无论是视频聊天还是其他形式的聊天，都需要机器人具备一定的分析能力，比如分析求职者的语气、眼神、表情，判断求职者是否对工作充满热情。但这也需要一个公平的算法。毕竟，智能相对论（aixdlun）分析师雷宇眯着眼睛被当成打瞌睡的事情也不是一次两次了。那么公平可以量化吗？《科学》杂志2011年的一项研究表明，情绪是可以数字化的，世界上不同文化背景的人每天和每周的情绪都遵循相似的模式。该研究基于对两年来84个国家240万人的5.09亿条推文的分析。但公平比情感抽象得多，如果人工智能需要研究公平算法，谁来决定公平的考量？这似乎陷入了一个死循环。我们很难量化公平性，更不用说公平的算法了。现阶段，人工智能招聘人员一般用于低级别入门级职位的招聘，对于要求稍高的招聘，AI最多只能起到辅助作用，也就是科大讯飞所说的“人机耦合”。歧视无处不在，后世生生不息。人工智能招聘歧视事件发生后，亚马逊拒绝就招聘引擎或面临的挑战发表评论，并表示一直致力于确保公司员工的多元化和平等。但智能相对论要提醒大家的是，亚马逊也致力于成为“地球上最以消费者为中心的公司”，但研究发现，亚马逊的购物推荐系统一直偏爱自家和合作伙伴的产品。即使其他卖家的商品价格较低。在购物比价服务中，亚马逊隐瞒了自家及合作伙伴产品的运费，使消费者无法获得公平的比价结果。商家为了自身利益的最大化，会有无数的手段和理由进行歧视。同样，职场女性也会因为无数看似合理的理由而受到歧视。您未婚且未怀孕吗？公司担心未婚怀孕休产假？公司担心你会推迟一年生育。未婚少妇……100多年过去了，上海成为了体面的大都市，但也成为了这个时代歧视外国人的典型。在上海这样看我，是歧视吗？
