May, 2024

傅里叶神经算子的离散化错误

PDF
TL;DR该研究使用算子学习方法设计了 Fourier 神经算子 (FNO) 来逼近函数空间之间的映射，通过将物理空间中的逐点线性和非线性操作与傅里叶空间中的逐点线性操作相结合，并在离散化的网格上进行计算，该研究定量描述了离散化造成的别名误差，并得到了网格分辨率的代数收敛率及其与输入的规则性之间的关系，同时通过数值实验证实了理论结果并描述了模型的稳定性。
发现论文，激发创造
  • 关于傅里叶神经算子通用逼近和误差界限

    该研究证明了 Fourier 神经算子 (FNOs) 具有普适性，可近似于任何持续算子，且能够高效逼近在多种偏微分方程中涉及的算子。

    Jul, 2021

  • 混合精度加速 Fourier 神经算子

    通过对 Fourier neural operator（FNO）进行全精度和混合精度训练的内存和运行时时间进行分析，研究混合精度训练的数值稳定性，并设计了一种训练程序，有效减少了训练时间和内存使用，而在准确性上几乎没有减少，适用于 Navier-Stokes 和 Darcy 流动方程。

    Jul, 2023

  • 基于傅立叶神经算子的分辨率不变图像分类

    本文研究了使用傅里叶神经算子（FNOs）相对于标准卷积神经网络（CNNs）进行图像分类的方法。我们推导了 FNO 结构作为连续和 Frechet 可微分的神经算子在勒贝格空间上的例子，并提出了内插等变的适应结构。

    Apr, 2023

  • Vandermonde 神经算子

    该论文提出了一种基于 Vandermonde 结构矩阵的神经运算符 VNO，用于处理非等间距数据，比 FNO 方法更快且精度更高，并且优于非等间距方法 Geo-FNO。

    May, 2023

  • 具有局部积分和微分核的神经算子

    我们提出了一种能够捕捉局部特征的算子学习方法，通过学习具有局部支持核的微分算子和积分算子，在效果上大大改善了 Fourier 神经算子的表现。

    Feb, 2024

  • 球形傅里叶神经算子：在球面上学习稳定动态

    本文介绍 Spherical FNOs 的概念，并将其应用于大气动力学，通过稳定的自回归推断保持物理上的合理动态，这将对机器学习模拟气候动力学有重要的实际应用。

    Jun, 2023

  • 从谱的角度对傅里叶神经算子进行分析和改进的研究

    通过光谱分析明确展示了 Fourier 神经操作符在解决偏微分方程时相比卷积神经网络的显著有效性，并提出了 SpecBoost，一种集成学习框架，通过利用多个 Fourier 神经操作符来更好地捕捉高频信息，明显提高了在各种偏微分方程应用中的预测准确度，最高提升了 71%。

    Apr, 2024

  • 本地卷积增强的全局傅里叶神经算子用于多尺度动态空间预测

    通过改进的傅里叶层和注意机制，我们提出了一种新颖的分层神经算子，旨在捕获所有细节并在不同尺度上处理它们，以解决多尺度偏微分方程问题。在多个物理场景中进行实验，并在现有偏微分方程基准测试中取得卓越性能，尤其是具有快速系数变化特征的方程。

    Nov, 2023

  • 非局部神经算子：通用逼近

    此研究提出了一种被称为非局部神经算子（NNO）的候选算子， 允许在任意几何空间中对算子进行逼近，因此包括傅里叶神经算子（FNO）作为一个特例并展示了这个理论结果统一了广泛的神经算子结构的分析。

    Apr, 2023

  • 用于处理正向与反向问题的可逆傅里叶神经算子

    本文提出了一种可逆傅里叶神经算子（iFNO），既能解决正向预测问题，又能解决逆向问题，通过设计一系列可逆傅里叶块在潜在通道空间共享模型参数、高效交换信息并相互正则化学习，结合变分自编码器以捕获输入空间内部结构并进行后验推理，从而克服了不适定性、数据不足、噪声等挑战，并通过对五个基准问题的评估证明了我们方法的有效性。

    Feb, 2024