当前位置: 首页 > 科技观察

百年微分方程解谜!神经元相互作用的方式有解析解,作者:大脑动力学可以模拟-MIT

时间:2023-03-20 20:28:06 科技观察

本文经AI新媒体量子比特(公众号ID:QbitAI)授权转载,转载请联系出处。困扰数学家百年的微分方程问题,被麻省理工解决了!这个微分方程可以用来模拟神经元通过突触相互作用的方式,换句话说,就是大脑传递信息的过程。现实生活中有很多应用场景,比如自动驾驶、大脑和心脏监测等。但是以往求解这个微分方程的过程比较复杂,计算量会随着计算量的增加而急剧增加数据模拟几个神经元之间的信息传递就可以了。但是,如果像人脑一样,有数百亿个神经元和数百万亿个突触呢?现在,研究人员终于找到了这个微分方程的近似解析解,一举将计算速度提高了数倍。要知道,该论文的第一作者表示,自1907年以来,没有人能够找到这个微分方程的解析解。该论文的第一作者还表示:我们现在可以模拟由数十亿个神经元和数万亿个突触组成的大脑的动态!有网友表示:这将提高神经网络对大规模数据计算的适应性。给个赞!相关论文发表在最新一期的NatureMI上,顿时引起了广泛关注:到底是什么数学问题能让网友产生如此大的反应,一起来看看吧~解决了什么样的问题?MIT这次的突破是找到了两个神经元突触相互作用的微分方程的近似解析解。突触是一个神经元的冲动与另一个神经元或另一个细胞的接触结构之间的接触。两个神经元之间的神经冲动从突触前终末传递到突触后神经元。要模拟神经元之间突触相互作用的过程,就需要模拟动作电位的传导。麻省理工学院的研究人员首先用去年制作的“液体时间常数网络(LTC)”模拟了这种现象。如下图所示,x(t)是研究希望求解的突触后神经元的电位,但是之前需要通过直接求解微分方程来计算,也就是上面的很多方程左图:BUT,他们很快发现LTC虽然神经网络模型模拟的很好,但是常微分方程(ODE)计算还是不够快,通常需要结合ODE求解器。即通过左边的一堆公式,虽然可以在给定时间t计算出x(t),但不仅速度慢,而且在求解过程中随着迭代计算,误差会一步步放大.但是,如果可以求出x(t)的解析解,即可以求出方程右边不包含变量x(t)的公式,那么计算效率可以成倍提高。但是,自从1907年提出求解这个常微分方程dv/dt=?glv(t)+S(t)的方法后,就没有人找到它的解析解。经过一番计算,研究人员最终得到了这个微分方程的近似解析解,可以很好地逼近x(t)的值:最重要的是解析解可以“一步到位”得到结果,研究人员表示,这比普通微分方程模型快1到5倍。依靠这种新的近似解析解,研究人员提出了一种称为CfC(closed-formcontinuous-depthnetworks,封闭式连续深度神经网络)的模型,进一步提高了计算效率,降低了求解微分方程的成本。近似误差。解与原微分方程的相似度也极高:那么CfC的提议到底解决了什么问题呢?作者:下一步是建立脑计算模型。提到CfC的作用,首先要说说它的基础,也就是麻省理工学院去年建立的“液体”神经网络(LTC)。△来源:麻省理工学院当时提出的“液体”神经网络,用于简化视频处理、金融数据、医疗诊断等与连续时间强相关问题的计算。此类问题通常具有很强的时间相关性,这也使得它们的变化难以预测,并且通常需要求解非常复杂的偏微分方程。“液体”神经网络就是为了解决这个问题而开发的,它确实提高了此类场景的计算效率。然而,虽然建立“液体”神经网络的灵感来自于小型物种的大脑,具有很强的灵活性和适应性,但计算量仍然不低——一旦神经元和突触的数量增加,计算机可能是因为数据计算量太大,“撑不住”。这不,今年MIT来了CfC神经网络!与“Liquid”神经网络相比,CfC可谓是“Liquid”网络,它不仅保留了“Liquid”网络的灵活性、因果性、稳定性和可解释性,而且速度提高了几个数量级,可扩展性更强。换句话说,CfC更快更强,这意味着它可以应用于更多的任务。论文中的测试结果表明,CfC在一系列任务中优于SOTA神经网络。例如,在医学预测任务中,新模型在8,000名患者的样本上比连续潜在模型快220倍。其中,CfC在通过运动传感器识别人体活动、构建用于模拟步行机器人的物理动力学模型以及基于事件的连续图像处理方面具有相当高的加速度和性能。而这对应的是现实中的实际应用,即无人驾驶、无人机导航或者各种预测任务。值得一提的是,据麻省理工学院消息,此前也有证据表明,CfC神经网络无需额外学习即可将学到的技能迁移到新环境中,这恰恰是人工智能研究最基础的挑战。一。(是的,CfC不容小觑。)在这一步,研究团队已经解决了神经元如何相互作用的描述,那么下一步是什么?他们竖起了一面旗帜:他们希望通过测量数百万个神经元连接来建立大脑动力学模型。该论文的第一作者、麻省理工学院CSAIL研究所的附属机构RaminHasani也表示:一旦我们有了描述神经元和突触之间联系的解析解,我们就可以使用数十亿个细胞来构建大脑的计算模型了。据神经科学家估计,人脑中的神经元数量约为1000亿个。不知道团队是否会挑战“模拟人脑”(手动狗头)的问题。目前CfC模型已经开源。想用它来模拟一些问题计算的可以去看看~CfC项目地址:https://github.com/raminmh/CfC论文地址:https://www.nature.com/articles/s42256-022-00556-7