Press "Enter" to skip to content

用机器学习解偏微分方程?数据驱动方法拓展高性能计算的疆界

From:Google BY:T.R

 

人类为了认识世界、理解世界、预测世界,构建了复杂的数学模型和强大的超级计算机。世界上最大的超级计算机就是用来为大千世界的物理现象建模、计算、理解、预测。

 

虽然超算已经从P级向E级迈进,但对于气候系统进行鲁棒的预测、对流体力学进行仿真、对高能物理进行模型当前的计算机还不够快。这些自然界中的物理系统都基于偏微分方程进行建模,为了解这些偏微分方程我们需要更快更强大的计算机。

 

但近年来随着摩尔定律的减速使得靠晶体管密度来提升算力的过程逐渐变缓慢,而与之形成鲜明对比的是,近年来 机器学习算法在硬件、算法和数据的帮助下取得了令人瞩目的进展 ,那幺它是否可以帮助科学计算更好的发展呢?

 

来自 谷歌的研究人员 近日发表了 基于数据驱动的离散化方法来处理偏微分方程,展示了机器学习算法在处理偏微分方程和众多科学计算问题上的潜力 ,为超级计算的发展又增添了一种新的可能。

 

偏微分方程PDE

 

对于真实世界的物理问题PDE方程封闭解是不存在的,我们需要寻找离散化的方法来近似连续的PDE并求取满足条件的解。求解PDE方程的典型过程是将方程在栅格中表示,在边界条件的限制下利用如有限差分等方法来进行求解。

 

为了得到收敛的结果,栅格最小的尺寸必须小于解的最小特征尺寸,这使得计算资源的消耗在超算中成为了最难以处理的问题。每增加十倍的分辨率,计算资源的消耗就会增加一万倍,这是因为栅格必须在三维空间和时间维度上各增加十倍的分辨率。

 

新提出的方法则可以利用ML为PDE在更为粗粒度的栅格上给出更好的表达。

 

 

这一实现方法的挑战在于要使用粗糙的栅格划分实现高精度的模拟结果。 在这篇论文中,研究人员将原来基于人类洞察的启发式方法替换成了 基于机器学习的优化规则 。

 

 

上图是论文中提出的模型,在训练过程中模型基于栅格均值学习优化预测栅格均匀时域差分。 数据则来自于预先训练好的高精度模拟。 模型中包含了三层卷积,将预测出一系列空间差分的系数。

 

粗粒度的函数值被送入神经网络,而后输出一系列预测系数。 这些系数与粗粒度值结合后将用于估计空间差分。 而后空间差分被用于已知物理系统的流方程中基于一阶散度来计算时域差分。 最终通过最小化估计出的时域差分与真实值之间的差异或估计出未来状态与真实状态间的差异来训练模型。

 

 

利用这种方法得到结果十分毕竟精确解的结果

 

机器学习模型发现的规则十分复杂,虽然到目前为止研究人员还没有完全理解这些规则的含义,但却可以与十分复杂的物理原理相结合,为物理过程精确建模。 下面的图展示了这种方法为 流体力学过程建模 的结果。

 

 

图中模拟了描述液体中冲击波的伯格斯方程,左边是基于有限体积的传统模拟方法,右边是基于新提出的神经网络方法。可以看到 左边用于模拟物理过程的栅格划分很密,而右边在1/4密度的情况下新方法得到了很好的结果 。

 

研究人员还探索了如何将机器学习与物理过程进行结合的有效方法,他们将神经网络与传统模拟方法中的某些模块进行结合,而不是从最开始进行学习。这意味着像动量守恒这类基本定律成为了构建模型的基础,使得机器学习模型可以聚焦到需要处理的任务上来,专注于学习复杂高维空间中插值的优化规则。

 

在未来,研究人员希望将这一模型扩大规模用于解决真实世界中更大规模的问题,包括 气候预测、流体力学等更高维度的复杂的问题 。

 

机器学习与科学计算间的鸿沟已经架起了探索的桥梁,相信未来更多的算法和成果将不断连接起物理世界与机器学习的宽阔大道。

 

如果想了解详细的实现过程,请参看论文:

 

https://www.pnas.org/content/pnas/116/31/15344.full.pdf

 

以及伯格斯方程的模拟代码:

 

https://github.com/google/data-driven-discretization-1d

 

ref:

 

https://www.pnas.org/content/pnas/suppl/2019/07/15/1814058116.DCSupplemental/pnas.1814058116.sapp.pdf

 

https://arxiv.org/abs/1907.07587

 

https://www.cnblogs.com/haoqingchuan/articles/2381405.html

 

https://www.zhihu.com/question/280342469/answer/427006660 

 

pic:https://dribbble.com/shots/1737112-Lake-Shuttle

 

https://dribbble.com/shots/6133129-Shipwreck-Island

Be First to Comment

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注