Jun, 2024

RandONet: 基于随机投影的浅层网络学习线性和非线性运算符

PDF
TL;DR通过随机投影算子网络（RandONets）解决动态系统的逆问题，实现线性和非线性算子的学习，降低参数空间维度，证明了 RandONets 对非线性算子和线性非线性演化算子的普适逼近准确性，相对于传统深度算子网络 DeepONets 具有更高的数值逼近精度和计算效率。
deep operator networksscientific machine learningrandom projection-based operator networksuniversal approximation accuracynumerical approximation accuracy
发现论文，激发创造
  • DeepONet：基于算子的普适逼近定理学习非线性算子用于鉴别微分方程

    神经网络具有普适逼近能力，使用一层隐藏层即可精确逼近任何非线性连续算子，但需要 DeepONet 结构通过降低泛化误差以实现其潜力应用。

    Oct, 2019

  • HyperDeepONet：通过超网络利用有限资源学习复数目标函数空间中的算子

    提出了一种使用超网络的方法，即 HyperDeepONet，通过较少的参数来学习复杂操作符，并成功地在较少的计算资源下学习各种操作符，并具有实时预测的能力。

    Dec, 2023

  • 在潜在空间中学习提高深度神经算子的预测准确性

    使用深度自编码器识别高维 PDE 输入输出函数的潜在特征表示，可以增强学习，并提高时间依赖型的 PDE 模型的计算精度和效率。

    Apr, 2023

  • 利用物理信息的深度神经网络学习参数偏微分方程的解算子

    本文提出了一种被称为物理学知识不同 DeepONets 的新模型类，通过使用自动差分在模型训练期间施加软惩罚约束来实现重力定律，其将 DeepONet 模型输出偏向于确保物理一致性，进而显著提高 DeepONets 的预测准确性，并大大减少了大型训练数据集的需求。

    Mar, 2021

  • 关于深度操作网络的训练和泛化

    我们提出了一种新颖的深度算子网络（DeepONets）的训练方法，通过将整个复杂训练任务分解为两个简化的子任务，首先训练主干网络，然后顺序训练分支网络，并引入了格拉姆 - 施密特正交化过程以提高稳定性和泛化能力。

    Sep, 2023

  • 非线性模型约简用于算子学习

    使用神经网络和核主成分分析（KPCA）结合的高效框架，扩展了基于模型简化和神经网络的 DeepONet，并展示了 KPCA-DeepONet 相对于 POD-DeepONet 的卓越性能。

    Mar, 2024

  • RiemannONets：用于 Riemann 问题的可解释神经操作器

    使用神经算子对压力跳变（高达 $10^{10}$）的可压缩流中遇到的 Riemann 问题进行求解，通过简单的修改 DeepONet 使其在精确性、效率和稳健性方面取得显著效果，从而实现对实时预测 Riemann 问题的非常精确的解决方案。

    Jan, 2024

  • 衍生增强的深层算子网络

    深度运算符网络 (DepthONets) 是一类学习函数空间之间映射的神经运算符，最近已被发展成为参数化偏微分方程 (PDEs) 的替代模型。本文提出了一种增强导数的深度运算符网络（DE-DepthONet），利用导数信息提高预测精度，尤其在训练数据有限时能提供更准确的导数近似。DE-DepthONet 将输入的维度降低到 DepthONet，并在损失函数中引入两种类型的导数标签进行训练，即输出函数相对于输入函数的方向导数和相对于物理域变量的梯度。我们在三个不断增加复杂度的方程上测试了 DE-DepthONet，以证明其相对于普通 DepthONet 的有效性。

    Feb, 2024

  • 面向物理学习的算子学习的近似误差的通用界限

    提出了一种通用的框架，用于导出物理相关神经网络（PINN）和操作器学习结构（如 DeepONets 和 FNOs）以及物理相关操作器学习的逼近误差的严格界限，并保证这些结构将有效逼近一般偏微分方程（PDE）的解或解算子。

    May, 2022

  • 深层运算网络的尺寸下界

    深度操作网络是解决无限维度回归问题和解决一类偏微分方程的一种越来越受欢迎的范式。本文旨在建立一种首次依赖数据的，能够减少噪声数据上经验误差的 DeepONets 所需的下界大小。具体来说，我们表明为了在 n 个数据点上获得较低的训练误差，分支网络和主干网络的共同输出维度需要按照 Ω (√n) 的比例缩放。这激发了我们使用 DeepONets 解决对流 - 扩散 - 反应 PDE 的实验，我们展示了在固定模型大小的情况下，利用这个共同输出维度的增加可以获得训练误差的单调降低，但训练数据的大小可能需要与其呈平方比例关系。

    Aug, 2023