雄心勃勃的DeepMind要在深度学习网络和传统算法之间架起一座桥梁！ 我们都知道经典算法是让软件在世界范围内流行的原因，但是这些算法使用的数据并不总是反映现实世界。 尽管深度学习是当今人工智能应用的驱动力，但深度学习模型需要重新训练才能应用于最初设计的领域。 现在，DeepMind要另辟蹊径，他们要找到一个深度学习模型，模仿任何经典算法，在现实世界中实现功能。只用一种算法来统治一切！ 近年来，DeepMind因AI领域一些最具标志性的成就而登上头条。AlphaGo打破了人类棋手对围棋的统治，AlphaFold解决了生物学领域50年来最大的难题。 现在，DeepMind将目光投向了另一个重大挑战：将深度学习与计算机科学中的经典算法联系起来。 经典算法和深度学习网络本质上是不同的 要达到这个目的，首先要了解两者的主要区别。即：经典算法和深度学习网络在属性上有什么区别？ DeepMind研究人员CharlesBlundell和PetarVeli?kovi?特别谈到了这一点。他们都在DeepMind担任高级研究职位。 他们认为两者的主要区别在于“泛化”和“最优解”问题。 Blundell说，首先，算法在大多数情况下不会改变。算法由一组固定的规则组成，这些规则在某些输入上执行。对于算法得到的任何类型的输入，算法都会在合理的时间内给出合理的输出。改变输入的大小，算法继续工作。 其次，算法可以链接在一起。算法的本质决定了：给定一些输入，只会产生一些输出。我们可以使用一种算法的输出作为其他算法的输入来构建一个完整的堆栈。 即使是简单的任务，深度学习算法的工作也很难做到。考虑一项最简单的任务：复制文本。输出是输入的文本副本。 就是这么简单的任务，用深度学习去完成是很麻烦的。如果只在1-10个字符的长度上训练，那么当任务字符长度超过时，输出就会出现问题，因为它无法学到算法中的核心思想。 如果任务比较复杂，比如涉及到排序，训练神经网络的性能会更差。而这对于传统意义上的算法来说根本不是问题。 总结一下： 深度学习网络的泛化能力很差，但在训练有素的特定问题上通常会产生比算法更优化的结果。 传统算法是可泛化的。改变输入数据的大小和类型，原来可用的算法程序仍然可用。但是算法有时会产生可能不是最佳的结果。 如何同时解决这两个问题，同时获得算法和深度学习的优势？ 神经算法推理：一种算法统治一切！ Blundell和Veli?kovi?提出了一个方向：神经算法推理（NeuralAlgorithmicReasoning，NAR）。 NAR的关键在于，通过用深度学习的方法更好地模仿算法，深度学习可以在保留问题最优解的同时实现算法的高泛化性。 DeepMind选择与谷歌地图APP合作，将图网络作为NAR的试验场。他们使用谷歌地图的图网络数据来预测用户出行时的到达时间。相关论文已发表。 2020年，谷歌地图是美国下载次数最多的地图和导航应用，每天有数百万人使用。GoogleMaps重要的Pathfinding功能背后的技术支持由DeepMind提供。 为什么选择图网络模型来做这个？ Veli?kovi?说，因为实际上任何对象都可以应用到图表示的框架中。 “例如，图像可以看作是由附近像素组成的图形。文本可以看作是一系列相互连接的对象。更广泛地说，自然界中没有任何东西被人为编入特定的框架或序列，非常自然地表示为图形结构。” 为什么要使用专门应用于深度学习算法的泛化框架，而不是直接使用机器学习算法？ 因为他们想要设计在复杂的现实世界中实际运行良好的解决方案。大规模处理大量自然数据的最佳解决方案是深度神经网络。 布伦德尔对NAR研究的未来潜力持乐观态度。 “在面向对象编程中，在对象类之间发送消息，你会发现完全一样，你可以构建非常复杂的交互图，然后将它们映射到图神经网络中。从这种复杂的内部结构中获得的丰富性使得能够学习使用更传统的机器学习方法不一定能获得的算法，”Blundell说。 https://venturebeat.com/2021/10/12/deepmind-is-developing-one-algorithm-to-rule-them-all/ https://venturebeat.com/2021/09/10/deepmind-aims-to-marry-deep-learning-and-classic-algorithms/ https://arxiv.org/abs/2108.11482
