通过对 Fourier neural operator(FNO)进行全精度和混合精度训练的内存和运行时时间进行分析,研究混合精度训练的数值稳定性,并设计了一种训练程序,有效减少了训练时间和内存使用,而在准确性上几乎没有减少,适用于 Navier-Stokes 和 Darcy 流动方程。
Jul, 2023
通过光谱分析明确展示了 Fourier 神经操作符在解决偏微分方程时相比卷积神经网络的显著有效性,并提出了 SpecBoost,一种集成学习框架,通过利用多个 Fourier 神经操作符来更好地捕捉高频信息,明显提高了在各种偏微分方程应用中的预测准确度,最高提升了 71%。
Apr, 2024
本论文提出了基于深度学习的 Fourier 神经算子 (FNO) 的新框架 - geo-FNO, 用于求解偏微分方程,并可在任意几何图形上工作。该方法利用深度学习降噪算法,将不规则的物理空间映射到一个均匀的潜空间中,再应用 FNO 模型来求解偏微分方程。geo-FNO 比传统的数值求解方法快 $10^5$ 倍,比其它机器学习算法(如 FNO)的直接插值更准确。
Jul, 2022
通过改进的傅里叶层和注意机制,我们提出了一种新颖的分层神经算子,旨在捕获所有细节并在不同尺度上处理它们,以解决多尺度偏微分方程问题。在多个物理场景中进行实验,并在现有偏微分方程基准测试中取得卓越性能,尤其是具有快速系数变化特征的方程。
Nov, 2023
该研究使用算子学习方法设计了 Fourier 神经算子 (FNO) 来逼近函数空间之间的映射,通过将物理空间中的逐点线性和非线性操作与傅里叶空间中的逐点线性操作相结合,并在离散化的网格上进行计算,该研究定量描述了离散化造成的别名误差,并得到了网格分辨率的代数收敛率及其与输入的规则性之间的关系,同时通过数值实验证实了理论结果并描述了模型的稳定性。
May, 2024
本文研究了使用傅里叶神经算子(FNOs)相对于标准卷积神经网络(CNNs)进行图像分类的方法。我们推导了 FNO 结构作为连续和 Frechet 可微分的神经算子在勒贝格空间上的例子,并提出了内插等变的适应结构。
Apr, 2023
本文提出了一种可逆傅里叶神经算子(iFNO),既能解决正向预测问题,又能解决逆向问题,通过设计一系列可逆傅里叶块在潜在通道空间共享模型参数、高效交换信息并相互正则化学习,结合变分自编码器以捕获输入空间内部结构并进行后验推理,从而克服了不适定性、数据不足、噪声等挑战,并通过对五个基准问题的评估证明了我们方法的有效性。
Feb, 2024
该研究证明了 Fourier 神经算子 (FNOs) 具有普适性,可近似于任何持续算子,且能够高效逼近在多种偏微分方程中涉及的算子。
Jul, 2021
本研究旨在通过傅里叶神经算子来求解偏微分方程,从而将对称性编码到神经算子中以获得更好的性能和更容易的学习,通过将群卷积扩展到频域并设计傅里叶层使其在旋转、平移和反射等变换下等变,从而实现了广义的 G-FNO 体系结构。
Jun, 2023
提出了一种针对具有无规则几何形状和演变域的物理系统建模问题,称作 DAFNO 的新型神经算子体系结构,它在积分层架构中引入了平滑的特征函数,并利用 FFT 来将几何信息显式编码。在材料建模和气动力学仿真等基准数据集上,DAFNO 实现了与基线神经算子模型相比的最先进的准确性。