- 利普希茨算子的运算学习:信息论视角
基于神经算子的算子学习已成为一种有前景的通过数据驱动的方法,在无限维巴拿赫空间中进行算子近似。本研究针对利普希茨连续算子的神经算子近似的参数复杂性进行了探索,从信息论的角度建立了利普希茨算子的度量熵的下界,并指出神经算子架构的大小在达到近似 - ICML使用 Lifting Product Fourier 神经算符学习偏微分方程中的边界到域映射
我们介绍了一种名为 Lifting Product FNO(或 LP-FNO)的新型基于 FNO 的架构,它可以将定义在低维边界上的任意边界函数映射到整个域中的解。在 2D 泊松方程中,我们展示了提议的 LP-FNO 的功效和分辨率独立性。
- 预训练神经操作器的策略
针对偏微分方程(PDE)建模的预训练最近展现出在扩展神经算子跨数据集以提高泛化能力和性能方面的潜力。尽管取得了这些进展,我们对预训练如何影响神经算子的理解仍然有限;研究通常提出了定制的架构和数据集,使得比较和检查不同预训练框架变得困难。为了 - 神经算子的连续关注
用注意机制来设计神经操作器,在函数空间中进行 Transformers 的研究,证明其作为实践中的 Monte Carlo 或有限差分近似算符,同时介绍了函数空间泛化的 patching 策略和相关神经操作器的类,证明其在注意力函数空间表述 - 线性化将神经操作符转化为函数值高斯过程
使用函数值高斯过程提出了一种逼近贝叶斯不确定性量化的新框架,可应用于神经算子,实现对非线性动力系统的精确建模和预测。
- 用于求解正向和逆向 PDE 问题的潜在神经算子
通过在潜变量空间中解决 PDE 问题,提出了潜变量神经运算器(LNO)模型,其中利用物理交叉注意力(PhCA)将表示从几何空间转化到潜变量空间,并通过反向 PhCA 映射恢复真实的几何空间,模型具有灵活性,可以解码任意位置的值并提高预测准确 - CoNO: 用于连续动态物理系统的复杂神经算子
神经算子的复杂神经运算符(CoNO)使用分数傅里叶变换(FrFT)参数化积分核,更好地表示复杂值域中的非平稳信号,具有在解决偏微分方程等问题上表现卓越的能力。
- 参考神经算子:学习偏微分方程解对几何变形的平滑依赖关系
提出了一种新颖的神经算子实现方式 —— 参考神经算子,通过学习解对几何形变的平滑依赖性,可以在相对较小的数据集上学习不同类型和数量几何对象的依赖关系,并在准确性上优于基线模型达到高达 80%的错误减少。
- 基于神经算子的快速求解器进行大规模散射
我们扩展了最近提出的基于机器学习的迭代求解器,即混合迭代可转移求解器(HINTS),以解决具有复吸收边界条件的外部域中由 Helmholtz 方程描述的散射问题。
- 作为概率神经算子的扩散模型用于恢复动力系统的未观测状态
本研究探讨了以扩散为基础的生成模型作为偏微分方程 (PDE) 神经算子的功效。我们展示了扩散生成模型在神经算子方面具有许多有利的特性,并能够在多个真实动力系统中优于其他神经算子。此外,我们演示了概率扩散模型如何优雅地处理部分可识别的系统,通 - 使用神经隐式流来表示规范系统的潜在动态
研究了 Neural Operators 中的 Neural Implicit Flow 对经典系统的潜在动力学建模和动态相关信息提取的能力,并通过与 Deep Operator Networks 的比较分析,评估了其作为降维算法的适用性。
- 神经算子引导高斯过程框架用于参数化偏微分方程的概率解
神经算符、高斯过程、偏微分方程、不确定性度量和算符学习是该研究论文的关键词,提出了一个新的神经算符引导的高斯过程框架,通过实验验证了其在各种 PDE 示例中的优越准确性和预期不确定性特性。
- 神经算子学习磁流体力学的局部物理性质
本研究提出了一种修改的 Flux Fourier 神经算子模型,用于近似理想磁流体力学的数值通量,通过实现连续推理、样本分布外的泛化以及相比传统数值方案更快的计算,实现了比现有神经算子模型更好的性能。
- 基于物理信息的无网格深度组合算子网络
参数化偏微分方程、神经算子、物理信息训练、不规则域形状和可变网格尺寸的研究
- 利用不确定性量化来描述和改善偏微分方程的领域外学习
在科学机器学习中,研究人员发现利用数据驱动的解算器学习可以提供快速的近似解决方案,作为传统数值偏微分方程求解器的替代方法。本研究通过聚合多个神经操作器,识别高误差区域并提供与预测误差相关的良好不确定性估计,从而解决了现有神经操作器方法在域外 - DPOT: 自回归去噪算子变压器用于大规模偏微分方程预训练
我们提出了一种新的自回归去噪预训练策略,通过 Fourier 关注机制实现了预训练在偏微分方程数据上的更稳定和高效,具有强大的泛化能力,显著提升了下游 PDE 任务的性能。
- 动态高斯图算子:在任意离散力学问题中学习参数化的偏微分方程
本文提出了一种名为动态高斯图算子(DGGO)的新型算子学习算法,它将神经操作器扩展到任意离散力学问题中的学习参数偏微分方程(PDEs),通过动态高斯图(DGG)核将在一般欧几里得空间中定义的观测向量映射到高维均匀度量空间中定义的度量向量,致 - 衍生增强的深层算子网络
深度运算符网络 (DepthONets) 是一类学习函数空间之间映射的神经运算符,最近已被发展成为参数化偏微分方程 (PDEs) 的替代模型。本文提出了一种增强导数的深度运算符网络(DE-DepthONet),利用导数信息提高预测精度,尤其 - 具有局部积分和微分核的神经算子
我们提出了一种能够捕捉局部特征的算子学习方法,通过学习具有局部支持核的微分算子和积分算子,在效果上大大改善了 Fourier 神经算子的表现。
- 操作员学习:算法与分析
通过对机器学习理念在函数巴拿赫空间之间进行映射的(通常是非线性)算子的应用,可以构建近似算子,这些算子通常源于用偏微分方程(PDEs)表达的物理模型。近似算子在许多查询任务中具有巨大的潜力,作为传统数值方法的高效代理模型。由于数据驱动,当无