ML社区的八大“毒瘤”：盲目崇拜、互相批评、重SOTA轻效率……俗话说，有人的地方就有江湖，各种立场和利益都会布满纠纷。科学研究也是如此，最近机器学习社区中关于种族偏见的争论就证明了这一点。先来回顾一下这件事的来龙??去脉：大约一周前，杜克大学提出了一种PULSE方法，可以将高模糊的人脸照片转换成清晰的人脸图像，但没想到，研究中的其中一张生成图像引起了轰动。有人指责这种做法存在种族偏见。出口后，奥巴马成了“白人”。随后，图灵奖获得者、Facebook首席AI科学家YannLeCun因对此事的评价遭到网友批评，最终不得不宣布退出推特。那么问题来了，这件事是否反映了机器学习社区对技术或数据的明显偏见态度？此外，机器学习社区还存在哪些慢性病和新出现的不良现象？今天，Reddit用户yusuf-bengio总结了当前机器学习社区的8大“毒瘤”，包括同行评议、盲目学术崇拜、多样性、过分强调发表顶级会议论文、学术批评等，引发了大家的热议网友们。我们先来看看这些问题的具体内容。ML社区的8大“毒瘤”一是同行评审规则被打破。四分之一的NeurIPS提交都放在arXiv上。DeepMind的研究人员公开挑战批评他们提交给ICLR的审稿人。最重要的是，arXiv上知名机构提交的论文，即使审稿人认为论文应该被拒绝，也被顶级会议接受。相比之下，AC拒绝了一些高评价的论文。第二点是存在复发危机。在测试集上调整超参数似乎是当前的实践标准。不打破当前SOTA记录的论文没有机会被更好的学术会议接受。所以很多研究只是调整超参数并提出一些微妙的技巧，使它看起来像是有性能提升，但事实并非如此。第三点是存在盲目的学术崇拜。与斯坦福、DeepMind等顶级机构相关的论文，即使没有重大突破，也会受到高度评价。例如，BERT被引用的次数是ULMfit的7倍。与Google的联系为这篇论文提供了如此多的可信度和曝光率。每次ICML会议，无论研究内容是什么，DeepMind的海报都会吸引很多人。同样的事情发生在ICLR2020的Zoom虚拟会议上。此外，尽管是顶级机器学习会议，NeurIPS2020的论文投稿数量是ICML的两倍。为什么会这样？为什么“神经”这个词如此流行？此外，Bengio、Hinton和LeCun确实是深度学习的先驱，但称他们为AI的“教父”是疯狂的。这实在是一种过度的崇拜。第四，虽然YannLeCun谈论偏见和公平的方式似乎有点无关紧要，但他也被批评得有理有据。让LeCun或其他任何人闭嘴都解决不了任何问题。第五，机器学习和计算机科学界总体上存在严重的“多样性”问题，最显着的是教授和学生的性别比例。当一个女人在她的博士期间休育儿假时。或者博士后，这往往意味着她学术生涯的结束。而且，这种缺乏“多样性”的现象经常被滥用为保护某些人免受任何批评的借口。将学术话语中的每一个负面评论都归咎于种族和性别会造成糟糕的学术氛围。人们越来越害怕被他人视为“种族主义者”或“性别歧视者”，加剧了这种“多样性”问题。第六点是随意给别人贴上道德败坏的标签。最近一段时间，美国的政治和种族抗议活动主导了所有学术讨论。第七，社区存在残酷的“不发表就发臭”的心态。如果你每年都未能在NeurIPS或ICML等学术会议上发表论文，你将被称为“失败者”。再加上研究团队的规模越来越大，有时PI连手下所有博士生的名字都不叫。一些研究人员痴迷于投稿，甚至每年投稿数十篇。这太可怕了。写论文的唯一目的变成了在接受论文的简历上加一笔经验，一切都变得很功利。提交论文时，质量是次要的，想法设法通过同行评审是主要目的。第八点，学术讨论变得粗鲁。例如，Schmidhuber称Hinton为“小偷”，Gebru称LeCun为“白人至上主义者”，Anandkumar称Marcus为“性别歧视者”。老板之间还互相指责，不利于构建健康和谐的机器学习环境。那么，我们能不能停止妖魔化持有不同意见的人，允许不同意见存在，停止吹毛求疵。如果仅仅因为意见不同就强行让他们闭嘴，恐怕也会宣告科学进步和社会进步的终结！不仅是ML社区，其他领域也存在上述“癌症”确实存在，并且不可避免地对机器学习社区的学术风气造成负面影响。对于这些问题，网友们是什么态度？第三点是学术盲目崇拜现象。网民表示，一些不知名学者的有趣研究引起了关注，但很少有人发表评论；相比之下，机器学习名人的一条推文可以获得数百条评论。这种现象可能不利于新研究或新技术的推广和可持续发展。有网友提到了其他社区，比如物理社区，说这样的社区可能不像机器学习社区那样充满攻击和分裂。他表示，虽然机器学习具有广泛的社会影响，但人们如何将自己的政治观点强加于自己的研究是荒谬的。但这位网友的观点却遭到了其他人的反驳，称其他领域如物理、数学、逻辑和哲学也可能如此。你怎么看待这件事？参考链接：https://www.reddit.com/r/MachineLearning/comments/hiv3vf/d_the_machine_learning_community_has_a_toxicity/TheHeartoftheMachine(id:almosthuman2014)》]点此查看本作者更多好文
