转载请联系出处。用AI解偏微分方程,这次真的火了。但是什么样的AI解决效果最好,目前还没有统一的定论。现在,终于有人为这个领域制作了一个完整的基准测试,叫做PDBench,论文发表在NeurIPS2022上。PDBench不仅可以作为大型偏微分方程数据集,也可以作为新AI的基准测试之一求解偏微分方程——很多“老前辈”的预训练模型代码都可以在这里找到,作为对比的依据。比如去年流行的FNO,可以在几秒内解决传统方法需要18小时的偏微分方程,代码放到PDEBench中。这个新benchmark一出,LeCun也热情转发:这个领域真火。那么,AI在求解偏微分方程方面有哪些优势,本次benchmark具体提出了哪些评价方法呢?为什么要用AI来求解偏微分方程?偏微分方程(PDE,PartialDifferentialEquation)是生活中常见的方程。包括预报天气、模拟飞机空气动力学、预测疾病传播模型,都会用到这个方程。目前,北京大学数学系“魏神”魏东义的一个研究方向是流体力学中的数学问题,包括偏微分方程中的Navier-Stokes方程。那么,为什么要用人工智能来求解偏微分方程呢?训练AI的本质是找到一个尽可能接近真实结果的模型。用AI求解偏微分方程实际上就是找一个代理模型来模拟偏微分方程模型。替代模型是指寻找一个近似模型,在减少计算量的同时,保证计算结果尽可能与原偏微分方程相似。这类似于求解偏微分方程的传统数值方法。传统方法往往需要通过离散化连续问题来逼近方程(类似于在连续函数上切掉许多小点)。但是,传统的数值方法非常复杂,需要大量的计算;通过AI方法训练的模型可以快速且很好地模拟。继2017年华盛顿大学提出PDE-FIND,2018年GoogleAI提出数据驱动的偏微分方程求解方法比传统方法快很多,更多人开始关注AI求解偏微分方程领域方程式。2019年,布朗大学应用数学团队提出了一种名为PINN(PhysicallyInspiredNeuralNetwork)的方法,彻底打开了AI在物理领域的广泛应用。虽然这篇论文在理论上没有像PDE-FIND和GoogleAI的方法那样具有突破性,但是它给出了一个非常完整的代码体系,使得开发者很容易上手,也让更多的研究者能够开发出不同的PINN。现在它也成为了AI物理学最常用的框架和词汇之一。△PINN加州理工学院和普渡大学团队去年发表的一项研究甚至将偏微分方程的计算时间从传统解的18小时缩短到1秒。本文提出了一种称为FNO(FourierNeuralOperator)的方法,在傅里叶变换的基础上,在神经网络中增加了一个“傅里叶层”,进一步节省了近似模拟算子的计算量。此外,许多研究人员已经训练了一些经典的AI模型来求解偏微分方程,例如U-Net。但无论是FNO、U-Net还是PINN,仍然是基于各自的benchmark来评估AI计算偏微分方程的效果。是否有一个更统一和通用的框架来评估该领域的新突破?更全面的AI偏微分方程基准测试在此背景下,研究人员提出了一个名为PDEBench的基准测试。第一个是基准测试中包含的数据集。目前这些数据集都已经在GitHub上汇总了:有很多经典的偏微分方程问题,比如Navier-Stokes方程、达西流模型、浅水波模型等等。随后,PDEBench提出了几个指标,从不同的角度更全面地评估AI模型:、U-Net、PINN等。例如,研究团队基于每个数据集训练这些模型,得到的均方根误差(RMSE)如下,这也说明了它们在不同偏微分方程问题上的表现不一样的是:此外,该团队还统一了数据格式,优化了PDBench的可扩展性,因此任何人都可以参与并向这个基准测试添加更多的数据集或更多的基准模型。值得注意的是,团队尝试在PyTorch和JAX两种框架上运行多个预训练模型,发现JAX的速度大约是PyTorch的6倍。看来以后可以试试JAX框架进行相关研究。作者简介作者来自德国斯图加特大学、欧洲NEC研发中心、澳大利亚联邦科学与工业研究组织(CSIRO)下属的Data61数字创新中心。MakotoTakamoto,欧洲NEC研发中心高级研究员,毕业于京都大学,研究方向为图像处理、图神经网络和科学机器学习。TimothyPraditia是斯图加特大学的博士候选人,他对开发基于数据驱动和先验物理知识的神经网络模型很感兴趣。论文地址:https://arxiv.org/abs/2210.07182PDBench地址:https://github.com/pdebench/PDBench
