关于深度学习:使用图神经网络从稀疏数据中学习连续时间偏微分方程

4次阅读

共计 1233 个字符,预计需要花费 4 分钟才能阅读完成。

这是一篇在 2020 年发表在 ICLR 的论文,论文应用图神经网络从稠密数据中学习间断工夫偏微分方程,文章提出的模型次要翻新点是容许任意空间和工夫离散化,也就是说在求解偏微分划分网格时,网格能够是不平均的,因为所求解的管制方程是未知的,在示意管制方程时,作者应用了消息传递的图神经网络进行参数化。

在许多零碎中偏微分方程至关重要。然而求解大多数偏微分方程长期以来始终是一项艰巨的工作,通常须要简单的数值求解技巧,尤其是当方程的参数或边界条件局部未知时。

图神经网络 (GNN) 因为在非欧几里得零碎建模中具备宽泛的适用性,所以能够为求解偏微分方程提供了新鲜而令人兴奋的概念。

在本文中,咱们将回顾一种应用图神经网络来示意偏微分方程中重要的工夫导数重量的办法。

一个常见的偏微分方程定义为,

其中零碎绝对于空间坐标 x 和工夫 t 的工夫演变取决于其本身及其绝对于空间坐标 x 的一阶或更高阶导数。

这种模式的偏微分方程是一大类迷信问题的根底,在声波、流体、热扩散等具备流传个性的零碎中有着宽泛的利用。

[1] 提出应用 GNN 迫近离散点网格的函数 F,将原方程用直线法(MOL)离散化,选取零碎域 Ω 中的 N 个节点,因而函数 F 为 在这些空间节点上离散化,能够示意为

其中 N(i) 是 xi 处相邻节点的一组索引,x{N(i)} 与 u{N(i)} 是 N(i) 中节点的地位和状态。

咱们将用 G=(V, E) 示意无向图,其中 V 作为顶点集,E 作为边集。为了构建这个图,首先对离散点应用 Delaunay 三角剖分,如果两个节点在至多一个三角形的同一边上则认为两个节点相邻节点,如下图所示

一组点的 Delaunay 三角剖分。绿色和橙色点被认为是街坊,因为它们共享雷同的边缘。起源 [1]

而后通过应用神经网络的消息传递 (MPNN) 对函数 F 进行建模,通过 K 个图流传暗藏状态,每层 k 首先为每个节点 i 收集音讯,而后更新相应的节点状态,

其中 φ、γ 是 DNN 参数化的可微函数,

而后用最初一层图形来计算 PDE,

为了监督模型的学习,应用均方误差观测状态和预计状态之间的差别。

与数据工夫距离较宽的纯离散工夫模型相比,这种办法的劣势在于它能够在间断工夫预测零碎的状态,同时在离散工夫学习零碎的状态。

a) 热传导方程的绝对测试误差。b) 实在和学习过的零碎动力学。起源 [1]

这种进化机制在数学上由偏微分方程形容,图神经网络将这些机制形象为节点(或边)之间的信息流。论文中提到图神经网络将进一步推动科学研究和社会经济,因为它们与形容自然界和人类社会中宽泛存在的非欧几里得数据或零碎的天然构造相关性。

论文信息:

1.Valerii Iakovlev, et. al.,“Learning Continuous-time PDEs From Sparse Data with Graph Neural Networks”, arXiv:2006.08956.
https://www.overfit.cn/post/1399a0d831ea4f10b82186284ba3adc1

本文作者:Madali Nabil

正文完
 0