ICLRFeb, 2024

PAC-FNO: 并行结构全组分傅里叶神经操作器用于低质量图像识别

PDF
TL;DR提出了一种新的神经网络模型 PAC-FNO，它在频域中进行操作，能够处理不同分辨率的图像，并且通过与现有的图像识别模型结合，显著提高了不同分辨率图像的性能。
image recognitionneural network modelresolutionfourier neural operatorperformance improvement
发现论文，激发创造
  • 从谱的角度对傅里叶神经算子进行分析和改进的研究

    通过光谱分析明确展示了 Fourier 神经操作符在解决偏微分方程时相比卷积神经网络的显著有效性，并提出了 SpecBoost，一种集成学习框架，通过利用多个 Fourier 神经操作符来更好地捕捉高频信息，明显提高了在各种偏微分方程应用中的预测准确度，最高提升了 71%。

    Apr, 2024

  • 基于傅立叶神经算子的分辨率不变图像分类

    本文研究了使用傅里叶神经算子（FNOs）相对于标准卷积神经网络（CNNs）进行图像分类的方法。我们推导了 FNO 结构作为连续和 Frechet 可微分的神经算子在勒贝格空间上的例子，并提出了内插等变的适应结构。

    Apr, 2023

  • 混合精度加速 Fourier 神经算子

    通过对 Fourier neural operator（FNO）进行全精度和混合精度训练的内存和运行时时间进行分析，研究混合精度训练的数值稳定性，并设计了一种训练程序，有效减少了训练时间和内存使用，而在准确性上几乎没有减少，适用于 Navier-Stokes 和 Darcy 流动方程。

    Jul, 2023

  • 多分辨率傅里叶神经算子的主动学习

    提出了多分辨率主动学习的 FNO（MRA-FNO）框架，用于降低 Fourier 神经运算符的数据成本，并提高学习效率。通过概率多分辨率 FNO 和集成蒙特卡洛方法开发了有效的后验推断算法，采用效用 - 成本比率最大化作为采集函数来获取新的示例和分辨率，并通过矩匹配和矩阵行列式引理实现了可行、高效的效用计算。此方法适用于多保真度主动学习和优化问题，并在多个基准运算符学习任务中展现了优势。

    Sep, 2023

  • 本地卷积增强的全局傅里叶神经算子用于多尺度动态空间预测

    通过改进的傅里叶层和注意机制，我们提出了一种新颖的分层神经算子，旨在捕获所有细节并在不同尺度上处理它们，以解决多尺度偏微分方程问题。在多个物理场景中进行实验，并在现有偏微分方程基准测试中取得卓越性能，尤其是具有快速系数变化特征的方程。

    Nov, 2023

  • 用于处理正向与反向问题的可逆傅里叶神经算子

    本文提出了一种可逆傅里叶神经算子（iFNO），既能解决正向预测问题，又能解决逆向问题，通过设计一系列可逆傅里叶块在潜在通道空间共享模型参数、高效交换信息并相互正则化学习，结合变分自编码器以捕获输入空间内部结构并进行后验推理，从而克服了不适定性、数据不足、噪声等挑战，并通过对五个基准问题的评估证明了我们方法的有效性。

    Feb, 2024

  • U-FNO – 多相流增强傅里叶神经算子深度学习模型

    U-FNO 是一种基于傅里叶神经算子的新颖神经网络结构，可用于解决在多孔介质中的多相流问题，相较于传统卷积神经网络模型和 ML 模型，U-FNO 模型在 CO2 注入问题中具有更高的准确性和数据利用率，只需三分之一的训练数据即可实现与该项目等效的准确性。

    Sep, 2021

  • 多尺度图像分类的新型傅里叶神经算子框架：在 3D 数字多孔介质中的应用

    使用傅里叶神经算子 (FNOs) 为基础的深度学习框架，可以处理大小不同的图像，并通过静态最大池化将 FNO 层与分类器相连接，解决了变尺寸多维数字多孔介质的图像分类问题。

    Feb, 2024

  • 评估 Fourier 神经算子的对抗鲁棒性

    本研究提供了首次关于科学发现模型对抗鲁棒性的研究，通过在指定模型上生成敌对性的样本数据，我们发现模型的鲁棒性随着扰动水平的增加而迅速下降，这为评估基于机器学习的科学发现模型提供了敏感性分析工具和评估原则。

    Apr, 2022

  • Vandermonde 神经算子

    该论文提出了一种基于 Vandermonde 结构矩阵的神经运算符 VNO，用于处理非等间距数据，比 FNO 方法更快且精度更高，并且优于非等间距方法 Geo-FNO。

    May, 2023