FMint: 桥接人工设计与数据预训练模型的微分方程基础模型
本文提出了一种基于正则化的方法,该方法利用自适应微分方程求解器的内部代价启发式和离散相邻灵敏度来引导训练过程,以学习更易于求解的神经微分方程,并在不增加训练成本的情况下加速预测,该方法可应用于常微分方程和神经随机微分方程。
May, 2021
介绍了一种基于偏微分方程的时间依赖性模拟任务的基准套件PDEBench,其涵盖了更广泛的PDE范围、更大的数据集、更可扩展的源代码和新的评估指标,并可用于评估新型机器学习模型性能及与现有基线方法的比较。
Oct, 2022
通过使用内部成本启发式算法,本文开发了两种采样策略来减少函数评估数量并加速预测,与全局正则化相比,我们的方法在普通微分方程和随机微分方程中具有相似的性能而不会影响实施的灵活性。
Mar, 2023
本文提出了一种元学习方法,通过使用模型无关的元学习器,能够在仅处理少量特定任务的数据的情况下,提高通过机器学习方法解决计算流体动力学中复杂偏微分方程的模型在未知样本上的表现,同时保持效率。
Jun, 2023
连续动力系统建模方法研究了数据驱动模型在解决微分方程方面的表现,通过CodBench进行了四类不同模型的全面评估并揭示了神经算子对新型力学数据集的困难,为建模动力系统的加速进展和探索提供了动力学研究资源。
Oct, 2023
介绍了一种新的框架——“定制ODE求解器”,用于构建针对预训练流模型的自定义ODE求解器,优化了顺序一致和参数高效的求解器,并在逼近质量和生成质量方面与专用求解器相比显著提高。
Oct, 2023
我们介绍了一种用于科学问题的多模态基础模型PROSE-PDE,它是一种多运算符学习方法,可以预测时空系统的未来状态,并同时学习物理系统的底层控制方程。我们通过三个外推研究证明了PROSE-PDE可以通过训练多个运算符来泛化物理特征,且该模型能够推断出在训练过程中未见过模型或数据的偏微分方程解。此外,通过系统数值实验,我们展示了我们模型中符号模态的有效利用解决了训练多个运算符的完整性问题,从而增强了我们模型的预测能力。
Apr, 2024
本研究提出了 PROSE-FD,一种零-shot 多模态 PDE 基础模型,旨在同时预测多种异质二维物理系统,包括浅水方程和纳维-斯托克斯方程。该模型通过一种新的基于变压器的多算子学习方法,融合符号信息,显著提升了操作基于数据的预测能力,并在基准前向预测任务中优于现有模型。
Sep, 2024
本研究针对神经偏微分方程求解器在训练成本、数值精度和适用性方面的局限性,提出了几种新方法,采用潜在扩散模型进行物理模拟。通过引入网格自编码器、全时空解生成和基于文本提示的条件生成,证明了语言在生成物理模拟中的有效性与可解释性,展示了所提出方法在准确性和效率上的竞争力,推动了神经偏微分方程求解器向实际应用的迈进。
Oct, 2024