时隔一年，由Montreal.AI和纽约大学名誉教授GaryMarcus组织的一年一度的人工智能辩论赛上周五晚上回归，一如2020年将再次举行作为在线会议。今年的辩论——AI辩论3：AGI辩论——聚焦于通用人工智能的概念，即一种能够集成无限数量的接近人类推理能力的机器。视频链接：https://www.youtube.com/watch?v=JGiLz_Jx9uI&t=7s这场讨论持续了三个半小时，围绕人工智能相关的五个话题展开：认知与神经科学、常识、建筑、伦理和道德与政策与贡献。除了众多计算机领域的大咖外，还有包括计算神经科学家KonradKording在内的16位专家参加。本文简单总结了其中5位的观点。感兴趣的读者可以通过上面的链接观看完整视频。主持人：Marcus作为知名评论家，Marcus在《纽约客》上引用了他的文章《「深度学习」是人工智能发展的一场革命吗？》，再次给AI的发展泼了一盆冷水。Marcus表示，与李飞飞团队成功发布ImageNet后长达十年的人工智能热潮相反，打造万能机器的“愿望”并未实现。DeepMind神经科学家DileepGeorge来自GoogleDeepMind的神经科学家DileepGeorge曾提出一个概念，叫做“先天性”。简而言之，某些想法“内置”在人的脑海中。那么对于人工智能，我们是不是应该更加关注先天性呢？对此，乔治表示，任何一种从初始状态到某种稳定状态的成长和发展都涉及三个因素。一是初始状态下的内部结构，二是输入数据，三是一般的自然法则。“事实证明，先天结构在我们发现的每个领域都发挥着非凡的作用。”对于那些被认为是学习的经典例子，比如语言的习得，一旦你开始把它拆开，数据几乎不会影响它。自人类诞生以来，语言就没有改变过，任何文化中的任何孩子都能掌握它就是证明。乔治认为，语言将成为人工智能的核心，让我们有机会弄清楚是什么让人类成为如此独特的物种。华盛顿大学计算机科学教授YejinChoi预测，人工智能在未来几年的表现将越来越惊人。然而，由于我们不知道网络的深度，他们将继续在对抗性和极端情况下犯错误。“对于机器来说，语言和智能的暗物质可能是常识。”当然，这里说的暗物质是人类容易但机器很难的东西。LSTM之父JürgenSchmidhuberMarkus说，我们现在可以从大型语言模型中获取很多知识，但实际上这种范式需要转变。因为语言模型实际上是“剥夺”了多种类型的输入。瑞士人工智能实验室IDSIA主任、LSTM之父JürgenSchmidhuber回应说，“我们今天讨论的大部分内容，至少在原则上，已经在很多年前用‘通用神经网络’解决了，但不如人类”。Schmidhuber说，随着计算能力每隔几年变得更便宜，“旧理论”又回来了。“我们可以用这些旧算法做很多当时我们做不到的事情。”接着，IBM研究员FrancescaRossi向Schmidhuber提出了一个问题：“我们如何看待仍然没有我们想要的功能的系统？你怎么看？”？那些定义好的功法，现在的系统还没有进入？”对此，Schmidhuber认为主要是计算成本的问题：循环网络可以运行任意算法，最美妙的方面之一是它还可以学习学习算法。最大的问题是它可以学习哪些算法？我们可能需要更好的算法。改进学习算法的选项。第一个这样的系统出现在1992年。我在1992年写了我的第一篇论文。当时我们对此无能为力。今天我们可以拥有数百万和数十亿个权重。最近与我的学生进行的一次合作表明，这些旧概念在各处稍作改进后突然变得非常有效，以至于您可以学习比反向传播更好的新学习算法。不列颠哥伦比亚大学计算机科学副教授JeffCluneJeffClune的讨论主题是“AI生成算法：通向AGI的最快路径”。克鲁恩表示，今天的人工智能走的是“人工道路”，就是说各种学习规则和目标函数都需要人类手动完成。对此，他认为在未来的实践中，人工设计的方式终将让位于自动生成。随后，Clune提出了推动AI发展的“三大支柱”：元学习架构、元学习算法、有效学习环境和数据的自动生成。在这里，Clune提议增加“第四支柱”，即“使用人类数据”。例如，在Minecraft环境中运行的模型可以通过学习人类玩游戏的视频获得“巨大的提升”。最后，Clune预测到2030年我们有30%的机会实现AGI，而且这不需要新的范式。值得注意的是，这里将AGI定义为“能够完成50%以上具有经济价值的人类工作”。总结在讨论的最后，Marcus要求所有参与者在30秒内回答一个问题：“如果你能给学生们一个建议，比如，我们现在最需要研究的AI问题是什么，或者如何做出贡献对越来越多的人来说，为一个成为主流和中心的世界做好准备的建议是什么？”Choi说：“我们必须处理AI与人类价值观的一致性问题，尤其是要强调多样性；我认为这是我们面临的真正关键挑战之一，更广泛地应对鲁棒性、泛化性和可解释性等挑战。“George从研究方向的角度给出了建议：“首先要确定你是想从事规模研究还是基础研究，因为它们的轨迹是不同的。”Clune：“AGI来了。所以，对于开发AI的研究人员，我鼓励你们从事基于工程、算法、元学习、端到端学习等技术，因为这些最有可能被吸收进入我们正在创建的AGI。对于非AI研究人员来说，最重要的问题可能是治理问题。例如，开发AGI时的规则是什么？谁来制定规则？我们如何让全世界的研究人员都遵守这些规则吗？”马库“建立人工智能需要一个村庄的人，”斯坦利在当晚结束前的一场辩论中回忆道。“我认为现在更是如此，”他说。“人工智能以前是个孩子，现在有点像一个还没有完全形成判断力的顽皮少年，”他总结道。“这一刻既令人兴奋又危险。”
