预测复杂系统必须使用更多的神经元？在最新一期的《自然 · 通讯》中，俄亥俄州立大学的研究人员给出了否定的答案。他们找到了一种方法，可以将储备池的计算速度提高多达100万倍，使用的神经元比以前少得多。在数学领域，有一个概念叫做“动力系统”。这个系统中有一个固定的规则，描述了几何空间中的一个点随时间的演变，比如钟摆的摆动、管道中的水流、每年春天湖中鱼的数量等等。.然而，动力系统就像天气一样，是很难预测的，因为初始条件的微小变化可以带动整个系统长期发生巨大的连锁反应，这就是众所周知的蝴蝶效应。为了更好地预测电力系统随时间的演化，相关研究人员在本世纪初提出了一种名为“Reservoircomputing”的机器学习算法。这是一种模仿人脑工作方式的计算方法，在预测动力系统的演化方面非常有效，研究人员一直在不断改进。在最新一期的《自然 · 通讯》杂志上，美国俄亥俄州立大学的研究人员公布了他们在储备池计算研究方面的新进展。研究人员表示，他们发现了一种新方法，可以将储备池计算速度提高33倍至100万倍，同时需要的计算资源和数据输入要少得多。他们将这种方法称为“下一代储备池计算”。论文链接：https://www.nature.com/articles/s41467-021-25801-2这项研究的第一作者和通讯作者是俄亥俄州立大学物理学教授DanielGauthier。合著者包括克拉克森电气与计算机工程系教授ErikBollt和博士AaronGriffith。俄亥俄州立大学物理学博士，以及俄亥俄州立大学物理学博士后WendsonBarbosa。该研究还得到了美国国防高级研究计划局(DARPA)的支持。在对新方法的测试中，研究人员在台式计算机上用不到一秒的时间解决了一个复杂的计算问题。用当前最先进的技术解决这个问题需要超级计算机，而且需要更长的时间。下一代储备池计算：用更少的神经元进行更准确的预测储备池计算使用人工神经网络来预测动力系统的演化。研究人员将来自动力系统的数据输入神经网络中随机连接的人工神经元的“储备池”。该网络产生有用的输出，研究人员可以解释这些输出并提供反馈，以构建一个越来越准确的进化预测系统。系统越大越复杂，期望预测结果越准确，人工神经网络就越大，完成任务所需的计算资源和时间也就越多。这里的问题是，基于人工神经元的储备池是一个黑匣子，科学家们不知道里面发生了什么，只知道它有效，这项新研究的主要作者、物理学教授DanielGauthier说。俄亥俄州立大学。Gauthier解释说，处于储备池计算核心的人工神经网络是建立在数学基础上的。“我们让数学家研究这些网络，并告诉我们其中的各种组成部分在多大程度上是必不可少的。”在这项新研究中，Gauthier和他的同事调查了这个问题，发现整个储备池计算系统可以大大简化，从而显着降低对计算资源的需求并节省大量时间。他们在涉及爱德华洛伦兹开发的天气系统的预测任务中测试了这一概念，爱德华洛伦兹是蝴蝶效应的发现者，被认为是混沌理论之父。在洛伦兹预测任务中，研究人员提出的下一代储备池计算技术明显优于目前的SOTA技术。在台式计算机上进行的相对简单的模拟中，新系统比当前模型快33到163倍。然而，当目标是实现高精度时，下一代储备池的计算速度要快100万倍。Gauthier说，这种新方法只需要28个神经元就能达到4000个神经元所能达到的准确度水平。速度提升的一个重要原因是新一代储备池计算背后的“大脑”比上一代储备池计算需要的预热和训练要少得多。预热是指需要作为输入添加到储备池计算机以准备它们执行实际任务的训练数据。“我们的新方法几乎不需要预热时间，”Gauthier说。“目前，为了预热，研究人员必须放入1000个、10000个或更多的数据点。这些是实际工作中不需要的数据。我们只是需要一个或两个或三个数据点进来。”一旦研究人员准备好训练一组计算机进行预测，下一代系统将需要更少的数据。在Lorenz预测任务的测试中，研究人员使用400个数据点获得与上一代储备池相同的结果使用5,000个或更多数据点生成的计算机（数据点的确切数量取决于所需的准确率）。“令人兴奋的是，下一代储备池计算采用了以前的优秀技术并显着提高了效率，”Gauthier说。他们计划将这项工作扩展到更复杂的计算问题，例如预测流体动力学。学习。“这是一个极具挑战性的问题。我们想看看我们是否可以使用储备池计算的简化模型来加快解决这个问题的过程，”Gauthier说。
