乐趣区

关于神经网络:深度学习求解PDE以及应用综述

前言

自己目前曾经研究生三年级了,也要去读博士了,前面可能就不做这个方向了,也就是将深度学习引入 PDE 的求解中。我进入这个畛域的动机是硕士论文一开始是做 PDE 的智能管制,然而管制问题大家都晓得,不过还是把传统的那一套灌水到 PDE 上。起初我就想做一些深度学习的货色,正好和 PDE 联合在一起,PDE 的求解其实是上游工作,针对 PDE 的各种各样的利用将求解作为上游工作,这样·就造成了一个闭环,就像我目前关注的 PDE 束缚下的最优控制问题。

其实要来到这个畛域我还是十分不舍的,这个畛域我意识是非常有意义的,然而博士的方向还是要听博导,所以我感觉做个文献综述来启发这个畛域的后来者。
具体能够参考我的 github 我的项目
目前还没有开始,前面我会逐步更新,如果有脱漏,也请及时分割我进行更新。上面我将论述我的思路,同样如果有不妥之处也请及时私信和我沟通。最初我须要进行申明,我次要对顶 https://github.com/bitzhangcy… 刊顶会上的论文进行收集,并对一些非顶刊顶会论文进行了主观筛选,如果有好的工作被脱漏,敬请了解。

对于 Physics Informed Machine Learning 这一块我还是举荐去读上面的综述,包含陆路博士在内的作者的确提出了一些远见卓识,有一些十分有启发性的观点

Karniadakis, G. E., Kevrekidis, I. G., Lu, L., Perdikaris, P., Wang, S., & Yang, L. (2021). Physics-informed machine learning. Nature Reviews Physics, 3(6), 422-440.

综述思路

对于这个畛域,我大略进行了一些分类,将一些支流的办法首先进行分类

  1. DeepONet
  2. Fourier Neural Network
  3. Graph Neural Network
  4. Multi-Scale Grid

这前面我会介绍一些实践剖析和后果

  1. DeepONet
  2. Green Function
  3. Attention Mechanism
  4. Discretation Invariance

还有一些比拟有意思的后果和钻研内容,这个方向蕴含了特地多的内容,很多钻研尽管目前看来还是很一般的,然而我置信将来这些目前还比拟小众的方向将来会焕发全新的活力。

最初就是一些利用问题,这方面的文章特地多,必定没法进行全面总结,我尽量全面的收集顶会顶刊上的论文,对于一些非顶刊的论文可能会主观疏忽,敬请体谅。

我应该会依照这个思路对这个畛域进行陈说,这是我觉得很有意思的思路,然而还不欠缺,如果有趣味参加这件事的兄弟们能够私信我一起探讨提高。

总结

进入这个畛域有大半年了,读了很多人的论文,能够看出这个畛域将来必定庸庸碌碌。然而目前的钻研指标还是存在一些问题,我还没有能力进行评估,目前机器学习顶刊 Journal of Machine Learning Research 和顶会曾经发表了这个方向的大量成绩。这里强烈推荐三个人:

  • 陆路博士,他的个人主页下面有很多很贵重的钻研思路;
  • George Em Karniadakis 传授的个人主页也是强烈推荐,他在 PDE 和 ODE 上做出了突出贡献
  • Anima Anandkumar 传授个人主页率领了傅里叶算子的工作,也和 Nvidia 有深度单干,置信将来可能率领这个畛域和业界进行密切协作

行文至此,还是有一些不舍,放弃一个酷爱的钻研方向是苦楚,如果将来可能成为一个 PI,我置信我还是会率领一部分学生去在这个畛域进行攻坚,美国军方在这个方向曾经投入了数千万的资金。加油吧,起初的钻研人员!

退出移动版