利用深度神经网络来近似评分函数的效率在基于扩散的生成建模中进行了研究,我们观察到评分函数可以通过变分推断去噪算法在图模型中得到较好的近似,同时这些算法适用于高效的神经网络表示,通过示例验证了这一观察,并结合离散化误差界限为基于扩散的生成建模提供了有效的样本复杂度界限。
Sep, 2023
此研究论文探讨了如何利用深度学习的方法解决高维偏微分方程的问题,并证明了 Deep Galerkin Method 和 Physics Informed Neural Networks 神经网络逼近器的全局收敛性,随着隐藏单元数的增加,这些神经网络收敛于一个无限维线性常微分方程的解。
May, 2023
提出了一种名为 Deep Galerkin Method(DGM)的算法,它使用深度神经网络来解决高维偏微分方程问题。相较于形成网格,该算法不依赖于网格,而是通过对随机采样的时间和空间点的批量训练来实现。它在一类高维自由边界的偏微分方程、高维哈密顿 - 雅各比 - 贝尔曼(Hamilton-Jacobi-Bellman)偏微分方程和 Burgers 方程上得到了测试,并且在高维空间中能够准确地近似各种边界条件和物理条件下的 Burgers 方程的一般解。此外,论文还证明了神经网络在一类拟线性抛物型偏微分方程上的逼近能力。
Aug, 2017
本文提出了一种名为动态高斯图算子(DGGO)的新型算子学习算法,它将神经操作器扩展到任意离散力学问题中的学习参数偏微分方程(PDEs),通过动态高斯图(DGG)核将在一般欧几里得空间中定义的观测向量映射到高维均匀度量空间中定义的度量向量,致力于解决复杂的计算域上的通用性问题。
Mar, 2024
通过构建多级图神经网络框架,解决基于深度学习的物理系统模拟和偏微分方程求解中数据格式与神经网络所需结构不匹配所带来的挑战,提出一种对于 GNN 和多分辨率矩阵核分解统一的方法,该方法可以处理所有范围的相互作用并具有线性复杂度。实验证明,这种多图网络可以学习离散化不变的 PDE 解算符并可以在线性时间内进行评估。
Jun, 2020
该研究提出了一种新的基于深度学习的神经 Galerkin 方法,用于数值求解高维偏微分方程。该方法可以自适应地采集新的训练数据,以实现在高维空间中训练深度神经网络,从而成功地模拟了许多变量的系统中的波动和相互作用。
Mar, 2022
利用深度学习方法解决高维随机偏微分方程的问题。通过使用全连接深度残差网络来逼近随机偏微分方程,在确定逼近深度神经网络的参数时,采用了 SGD 的变种,并在扩散和热传导问题上得到了验证。
Jun, 2018
本论文提出了一种多级深度学习方法来解决非线性偏微分方程(PDEs),该方法能够高效地学习方程的解,并且在预测准确性上优于现有的单级深度学习方法
从有限的点值样本学习多变量平滑目标函数的近似是科学计算和计算科学工程中的一个重要任务。本文调查了近年来在此方面取得的重大进展,描述了来自参数模型和计算不确定性量化的当代动机,无穷维巴拿赫空值全纯函数类,这些类的有限数据可学习性的基本限制,以及从有限数据高效学习此类函数的稀疏多项式和深度神经网络方法。针对深度学习的实际性能与深度神经网络的近似理论之间的差距,我们发展了实际存在理论的主题,宣称存在维度无关的 DNN 结构和训练策略,以证明在训练数据量方面具有可证明近似最优的泛化误差。
Apr, 2024
本文提出了一种基于深度学习的算法,用于在未知流形中函数的扩展问题上。该算法使用多层神经网络和局部坐标系统来实现函数近似,同时保证输出的误差范围与目标函数的导数数量成正比,并在不需要目标函数的光滑性的情况下自动调整精度。
Jul, 2016