Aug, 2023

神经网络不确定性估计在分类问题中的质量比较

PDF
TL;DR对深度学习的 UQ 方法进行了质量评估，比较了不同模型的不确定性估计质量。
uncertainty quantificationdl modelsevaluationcredible intervalsuq quality metric
发现论文，激发创造
  • 深度不确定性：比较深度学习算法中的不确定性量化方法

    本文研究比较了在一个物理系统的背景下，深度学习算法的不确定性量化方法，包括贝叶斯神经网络，Concrete Dropout 和 Deep Ensembles，并探讨了它们的优缺点，结果为使用和解释不确定性量化方法提出了一些建议。

    Apr, 2020

  • 对复杂动态系统中认识不确定性和随机不确定性量化的机器学习架构评估

    本研究比较了多种机器学习技术的 UQ 准确性，并对两个模型（船只在波浪中的运动和 Majda-McLaughlin-Tabak 模型）进行了应用。

    Jun, 2023

  • 科学机器学习中的不确定性量化：方法、指标和比较

    本文介绍了一个包含不确定性建模、解法和评估的完整框架，用于量化神经网络中包括噪声、有限数据、超参数、过度参数化、优化和采样误差及模型错误等多源的误差和不确定性，特别关注向无限维函数空间中的偏微分方程和操作映射的学习，包括一个在原型问题上进行的广泛的比较研究。

    Jan, 2022

  • 贝叶斯神经网络推断的不确定性量化质量

    本研究通过对 10 种常见的推断方法在回归和分类任务中的预测不确定性估计结果进行实证比较，发现常用的指标可能会导致误导，并表明为了得到高质量的后验逼近并不一定需要具有捕获后验结构的推断创新。

    Jun, 2019

  • 基于 DNN 的分子性质预测的可扩展不确定性估计方法评估

    本研究旨在定量比较 GCNNs 中不确定性估计的可扩展技术，介绍了一组定量标准来捕捉不同方面的不确定性，并使用这些标准在 QM9 数据集上理论和实验比较了 MC-Dropout、deep ensembles 和 bootstrapping 这些不确定估计方法，结果表明合奏和自举法始终优于 MC-Dropout 方法，在不同的具体情境中具有不同的优点和缺点，并突出了来自不同领域的不确定性所带来的挑战。

    Oct, 2019

  • 基于贝叶斯神经网络的多变量回归材料性质预测的不确定性量化

    使用物理知识指导的贝叶斯神经网络（BNNs）进行材料预测，可实现准确的失效寿命预测和不确定性估计，提供决策依据。

    Nov, 2023

  • 用于基于风险决策的深度学习分类中的离散输入噪声量化不确定性

    深度神经网络在风险决策中的应用受到广泛关注，已在医学、金融、制造和质量控制等领域取得广泛应用。本文提出了一种数学框架，用于量化深度神经网络模型的预测不确定性，特别针对含有离散特征变量的表格数据集。通过对结核病患者在治疗过程中的预测进行案例研究，结果表明在一定风险水平下，我们能够识别出风险敏感的情况，这些情况容易因为预测器中的误差而被错误分类。与蒙特卡洛丢弃法相比，我们提出的框架更加关注误分类的情况。我们的提出的深度学习不确定性量化框架可在存在离散预测误差的应用中支持基于风险的决策。

    Oct, 2023

  • 使用神经网络进行分子性质预测的不确定性量化

    文章通过对 5 个基准数据集的系统评估，研究不同的不确定性量化方法在回归任务中的性能表现，发现没有一种方法完全优于其他方法，也没有一种特别可靠的错误排名。作者建议在已有的技术中进行选择。

    May, 2020

  • 使用深度集成实现简单且可扩展的预测不确定性估计

    本研究提出了一种替代贝叶斯 NN 的简单实现方法，其能够产生高质量的预测不确定性估计，并在分类和回归数据集上进行了实验以证明这一点。此外，研究还评估了在已知和未知数据分布下的预测不确定性，并证明该方法能够在超出分布的样本上表现出更高的不确定性，同时在 ImageNet 上证明了该方法的可扩展性。

    Dec, 2016

  • 深度学习的不确定性量化

    提供了深度学习的完整且具有统计一致性的不确定性量化，包括源自（1）新的输入数据，（2）训练和测试数据，（3）神经网络的权重向量和（4）神经网络本身的不确定性。

    May, 2024