Mar, 2024

利用不确定性量化来描述和改善偏微分方程的领域外学习

PDF
TL;DR在科学机器学习中，研究人员发现利用数据驱动的解算器学习可以提供快速的近似解决方案，作为传统数值偏微分方程求解器的替代方法。本研究通过聚合多个神经操作器，识别高误差区域并提供与预测误差相关的良好不确定性估计，从而解决了现有神经操作器方法在域外测试输入上的不确定性量化问题。基于这一结果，提出了一种经济高效的方法 DiverseNO，通过鼓励多个神经操作器在最后的前馈层中产生不同预测结果来模拟集成的特性。同时，引入了 Operator-ProbConserv 方法，将这些经过良好校准的不确定性估计嵌入 ProbConserv 框架以更新模型。实验结果表明，Operator-ProbConserv 提高了挑战性偏微分方程问题的域外模型性能，并满足了物理约束条件如守恒定律。
发现论文，激发创造
  • 评估科学应用中神经 PDE 的不确定量化方法

    神经偏微分方程（Neural PDEs）被证明能够有效重构流系统并预测相关的未知参数。然而，基于贝叶斯方法的神经偏微分方程显示出更高的预测确定性，相较于使用 Deep Ensembles 方法得到的结果，可能低估了真实潜在的不确定性。

    Nov, 2023

  • 基于导数信息的神经算子在高维度不确定性下的高效偏微分方程约束优化

    提出一种基于神经网络和基函数的新型算法来求解随机参量的大规模偏微分方程优化问题。通过构建一种新的神经算符逼近偏微分方程的解算符，该算符由减小基构建而成，在保持精度的同时大大缩小了训练数据量和计算成本，并成功用于数值实验中。

    May, 2023

  • 物理约束神经网络与神经算子中的有噪输入输出不确定性量化

    通过引入贝叶斯方法来量化物理知识中 PINNs 和 NOs 中由于带有噪声的输入和输出引起的不确定性。

    Nov, 2023

  • 神经算子引导高斯过程框架用于参数化偏微分方程的概率解

    神经算符、高斯过程、偏微分方程、不确定性度量和算符学习是该研究论文的关键词，提出了一个新的神经算符引导的高斯过程框架，通过实验验证了其在各种 PDE 示例中的优越准确性和预期不确定性特性。

    Apr, 2024

  • 对复杂动态系统中认识不确定性和随机不确定性量化的机器学习架构评估

    本研究比较了多种机器学习技术的 UQ 准确性，并对两个模型（船只在波浪中的运动和 Majda-McLaughlin-Tabak 模型）进行了应用。

    Jun, 2023

  • 超参数化神经网络的有效不确定性量化和减少

    使用一种名为 PNC 预测器的方法，仅使用一个辅助神经网络，并结合适当的低计算重采样方法，以最低限度的开销建立了几种方法，利用仅四个训练网络就能构建渐近精确覆盖置信区间。

    Jun, 2023

  • 通过潜在全局演化对 PDE 的正向和反向问题进行不确定性量化

    提出了一种将高效精确的不确定性量化整合到基于深度学习的代理模型中的方法，称为 LE-PDE-UQ，其具备了前向和反向问题中的鲁棒高效的不确定性量化能力。

    Feb, 2024

  • 科学机器学习中的不确定性量化：方法、指标和比较

    本文介绍了一个包含不确定性建模、解法和评估的完整框架，用于量化神经网络中包括噪声、有限数据、超参数、过度参数化、优化和采样误差及模型错误等多源的误差和不确定性，特别关注向无限维函数空间中的偏微分方程和操作映射的学习，包括一个在原型问题上进行的广泛的比较研究。

    Jan, 2022

  • 物理引导神经网络中的对抗不确定性量化

    本文提出了一种基于物理启发式神经网络的深度学习框架，用于量化和传播受非线性微分方程支配的系统中的不确定性。通过建立概率表示，对系统状态进行训练以满足给定的物理定律表达式，并提供了一种有效训练深度生成模型作为物理系统的代理的规范化机制，在这些系统中，数据采集成本高，训练数据集通常较小。该框架提供了一种灵活的方式，用于因输入随机性或观测噪声而导致的物理系统输出不确定性的表征，完全绕过了重复采样昂贵的实验或数值模拟器的需求。作者通过一系列例子证明了方法的有效性，这些例子涉及非线性守恒定律中的不确定性传播以及直接从嘈杂的数据中发现流体通过多孔介质的本构规律。

    Nov, 2018

  • 无需标记数据的高维代理建模和不确定性量化的物理约束深度学习

    提出一种基于物理约束深度学习的建模和不确定性量化方法，避免深度学习在小样本问题上的跨度不足，可以用于偏微分方程系统的解决和预测推断，并提供一些解释和量化手段。

    Jan, 2019