Oct, 2023

集成模型在超音速流动操作员学习中胜过单一模型的不确定性和预测

PDF
TL;DR在本研究中，我们使用三种不同的不确定性量化机制（均值方差估计、证据不确定性和集成）扩展了一个具有不确定性感知能力的 DeepONet 模型，并使用在各种马赫数和高度下通过计算流体力学生成的数据对该模型进行了训练和评估。我们发现，在插值和外插值范围内，集成方法在最小化误差和校准不确定性方面表现优于其他两种不确定性模型。
high-fidelity computational simulationsscientific machine learninguncertainty quantification mechanismsdeeponethypersonic flow
发现论文，激发创造
  • 超扩散：利用单一模型估计认知和随机不确定性

    通过训练和样本采集大量扩散模型的集合来准确估计表观不确定性（可以通过更多的训练数据来减少的不确定性）和内在不确定性（与手头任务相关的不确定性）在将机器学习（ML）应用于医学影像和天气预报等高风险应用的过程中至关重要。而在模型架构复杂性增加时，训练这样的集合变得计算上难以处理。本论文介绍了一种新的集合方法，称为超扩散，它允许使用单个模型准确估计表观和内在不确定性。不同于现有的基于蒙特卡洛 dropout 的单模型集合方法，超扩散提供了与多模型集合相同的预测准确性。我们在两个不同的任务上验证了我们的方法：X 射线计算机断层扫描（CT）重建和天气温度预测。

    Feb, 2024

  • 对复杂动态系统中认识不确定性和随机不确定性量化的机器学习架构评估

    本研究比较了多种机器学习技术的 UQ 准确性，并对两个模型（船只在波浪中的运动和 Majda-McLaughlin-Tabak 模型）进行了应用。

    Jun, 2023

  • 神经网络势能单模型的不确定性量化表现未必比模型集合更好

    本研究考察了用于提高神经网络相互作用势模型的稳健性的多个不确定性量化方案，包括平均 - 方差估计，深度证据回归和高斯混合模型，并与现有基于集成的方法进行比较。研究表明，对于不确定性量化，成本有效的单一确定性模型尚不能始终匹配或胜过集成方法。

    May, 2023

  • 证据深度学习：提高地球系统科学应用的预测不确定性估计

    可靠和实用的地球系统科学建模领域中，证据深度学习是一种有前途的方法，它能够准确量化预测不确定性，包括预测方差和模型不确定性，还可以通过敏感性分析来解释模型的预测结果。

    Sep, 2023

  • 可靠的不确定性与便宜的神经网络集成：工业零件分类的案例研究

    本研究比较了单一神经网络、深度集合和三种高效神经网络集合的性能，结果表明批量集合是一种性价比高且与深度集合相比在不确定性和准确性方面表现更好的替代方案。

    Mar, 2024

  • 评估不确定性估计方法在点云三维语义分割上的表现

    本研究评估了三种不确定性量化方法，即深度集成，MC-Dropout 和 MC-DropConnect 在 DarkNet21Seg 3D 语义分割模型上的影响，并全面分析了各种参数对任务性能和不确定性估计质量的影响。研究发现，深度集成的表现在性能和不确定性度量方面优于其他方法，mIOU 提高了 2.4％，准确度提高了 1.3％，并提供可靠的不确定性来做出决策。

    Jul, 2020

  • 使用深度集成实现简单且可扩展的预测不确定性估计

    本研究提出了一种替代贝叶斯 NN 的简单实现方法，其能够产生高质量的预测不确定性估计，并在分类和回归数据集上进行了实验以证明这一点。此外，研究还评估了在已知和未知数据分布下的预测不确定性，并证明该方法能够在超出分布的样本上表现出更高的不确定性，同时在 ImageNet 上证明了该方法的可扩展性。

    Dec, 2016

  • 使用贝叶斯深度神经网络量化雷诺平均湍流模型的形式不确定性

    本文介绍了一种新颖的数据驱动框架，使用不变的贝叶斯深度神经网络以及蒙特卡罗方法对流体量，比如速度和压力提供概率边界，并且在两个测试用例中进行结果呈现。该框架不仅可以提高 RANS 计算预测结果的准确性，而且还允许在没有高保真度观察或先验知识的流中，对模型置信度和不确定性进行定量测量。

    Jul, 2018

  • 适应性学习的快速神经网络集成的认识建模不确定性

    在航空航天工程系统的高效设计探索中，使用嵌入仿真器的神经网络，并充分利用多样化数据源对多个模型实现进行训练，以评估由于训练样本不足而引起的认知建模不确定性，并在目标导向的自适应学习中提供关键信息。然而，由于集成模型的训练成本往往变得禁止并带来计算上的挑战，所以本研究提出使用快速神经网络范例的新型嵌入仿真器的神经网络，通过应用线性回归技术仅调整最后一层的连接权重，以在几乎即时训练的情况下保持预测准确性。该方法在多个分析实例和通用高超声速飞行器的航空参数研究中得到了验证。

    Sep, 2023

  • 评估可扩展的贝叶斯深度学习方法在稳健计算机视觉中的应用

    该论文提出了一种深度学习可扩展的确定性和不确定性评估框架，并对两种最先进的可扩展方法进行了比较，即集成和 MC-dropout，结果表明集成方法提供更可靠和实用的不确定性估计。

    Jun, 2019