【.com快译】12月初，谷歌解雇了知名人工智能伦理研究人员TimnitGebru。此事引发争议不断，甚至遭到内部员工的联名抗议。在解雇当天，美国国家劳资关系委员会也对谷歌提起诉讼，指控谷歌非法监控员工，并报复解雇有意加入工会的员工。即使临近圣诞节，事件的余波仍未散去。可以说，自谷歌两位创始人一年前离职以来，此次事件对公司现任管理层来说是又一次严峻考验。 事件的起因 我们先来回顾一下这件事的前因后果。 Gebru本人是著名的人工智能科学家，也是谷歌人工智能伦理团队的联合技术负责人。事件始于今年早些时候，当时Gebru在Twitter上向华盛顿大学教授EmilyBender发送了一条消息。两人就人工智能处理文本的最新研究进展可能引发的伦理问题进行了深入讨论。当讨论进行到一定阶段时，他们与来自谷歌和学术界的其他五位研究人员完成了一篇研究人工智能偏见的研究论文，并将其提交给了10月份的一次学术会议。 正是这篇论文被谷歌的AI负责人认为“不符合我们的出版标准”，而Gebru在拒绝撤回或删除该论文后被谷歌解雇。此后，超过2200名谷歌员工签署了一封公开信，呼吁对这篇论文进行更透明的审查。在业界，越来越多的AI研究人员公开谴责谷歌对Gebru的处理方式。在 论文 的背后造成分歧的论文《论随机鹦鹉的危险: 语言模型会不会太大? 》（关于随机鹦鹉的危险：语言模型会不会太大？）对最活跃的领域之一投下了批判的眼光。 自2010年以来，谷歌等科技公司在人工智能领域投入了大量资金，当时研究人员发现使用一种称为“机器学习”的技术可以使语音和图像识别更加准确。这些算法可以通过摄取标记的样本数据来提高它们在任务上的性能。其中，一种称为“深度学习”的方法可以通过将学习算法与更大的样本数据集和更强大的计算机相结合，取得惊人的新成果。 过去几年，研究人员专注于如何构建超大规模的语言机器学习模型，通过让机器学习算法消化从互联网上抓取的数十亿文本，对机器阅读理解意义重大已经取得进展。这些系统根据语言的统计模式运行，它们不像人类那样理解世界，它们会犯人类显而易见的错误，但它们可以利用数据处理取得令人印象深刻的结果，例如回答问题、生成文本等 谷歌的BERT就是这样一个系统，它被用来改进谷歌搜索引擎处理长句查询的方式。微软此前宣布已获得OpenAI的GPT-3系统的独家许可，使微软能够在其面向客户的AI解决方案中充分利用GPT-3的自然语言生成和处理能力。 人工智能的这种进步促使其他研究人员关注这种自然语言处理技术的局限性和可能的??社会影响。Gebru与人合着的这篇论文总结了以往关于分析和生成语言的人工智能系统局限性的研究。例如，构建和训练AI语言系统会消耗大量电力。研究报告的局限性。此前的研究发现，BERT倾向于将表达残疾的短语（例如脑瘫和失明）与负面语言联系起来。本文正是研究了这种偏见，质疑这种大型语言模型是否不成比例地有利于社会中的特权阶层并损害边缘化社区和人群。 Gebru和其他几位作者因此敦促AI开发人员对语言项目更加谨慎，包括更好地记录用于创建此类系统的数据。该论文提出，构建此类语言系统的研究人员不仅需要考虑AI开发人员的立场，还需要考虑可能受到系统输出或判断影响的领域外人士的观点。 各方回应 总的来说，引起分歧的论文在指出当前AI语言系统的局限性后提出了一些改进，而不是攻击谷歌或其技术。 伦敦大学学院名誉副教授JulienCornebise在看完论文后也指出了这一点。“这是一篇非常扎实、经过深入研究的论文。很难想象这样的事情会在任何实验室引起轩然大波，更不用说导致某人失业了。” 艾伦人工智能研究所CEOOrenEtzioni说：“艾伦研究所也对这个课题进行了自己的研究，这里也??引用了其中一些研究成果。论文……这项工作仍在进行中，由于偏见有多种形式，几乎所有在该领域工作的人都认识到这些语言模型的影响力越来越大，我们有义务负责任地使用它们。 谷歌人工智能总监杰夫迪恩（JeffDean）在一封电子邮件中表示：“论文本身存在一些重要的缺陷，使我们无法轻易将谷歌链接到它。例如，关于如何使模型更高效和更有效的重要发现降低其对整体环境的影响未包含在本文中，也未考虑谷歌和其他研究人员最近在减少语言模型中的偏见方面所做的一些工作。强调风险而不建议开发人员理解和减轻这些风险的方法无济于事” 对此，EmilyBender在事后表示：“虽然JeffDean认为这篇论文的质量并不好，但该领域确实还远未发明出一种能够可靠消除的方法语言偏见。《 后续进展 》自谷歌CEO皮查伊12月9日在内部邮件中致歉以来，谷歌一直没有就格布鲁的“离职”发表任何公开声明。杰夫·迪恩也在随后的一封邮件中表示，“公司将在一月份就此事做出最新决定”。以谷歌对待事情的态度和做法，有人推测格布鲁的离职可能不仅仅是因为一篇论文。Gebru本人也曾表示，她可能会因为批评谷歌对多样性和包容性的处理，并在最近的群发邮件中建议同事停止参与相关项目而被解雇。 值得一提的是，Gebru是从其中一位的角度来看谷歌为数不多的黑人女性领导者，她一直批评科技行业和谷歌对待少数族裔员工的方式。从这个角度来看，这起事件可以说是将近年来引发谷歌员工骚乱的风波汇集在一起??。人工智能领域的四大问题：人工智能领域的伦理、女性待遇、种族问题、背离谷歌过去开放自由的文化。 由于人工智能的强大潜力和广阔前景，随着随着人工智能发展的深入，业界越来越关注人工智能伦理问题。基于此，谷歌还发布了一系列人工智能发展原则，包括“有益于社会”、“避免产生或加强不公平偏见”等指导方针。后者恰好是Gebru的研究领域。她因在GenderShades项目上的工作而闻名，该项目揭示了黑人面部识别技术的不准确性，她的工作迫使IBM和微软暂停面部识别技术和产品的对外销售。 不过，谷歌这次解雇Gebru的沉默态度，可以说是带有强烈的讽刺意味。曾经是一个开放、理想主义和自由的谷歌，现在似乎正在转变为一个更世俗的企业，在取悦员工和镇压异议的两面走危险的钢丝。原标题：导致一名谷歌研究员被解雇的论文背后，作者：TomSimonite
