UQ-ARMED: 面向聚类非独立同分布数据的对抗正则化混合效应深度学习的不确定性量化

Nov, 2022

UQ-ARMED: 面向聚类非独立同分布数据的对抗正则化混合效应深度学习的不确定性量化

UQ-ARMED: Uncertainty quantification of adversarially-regularized mixed effects deep learning for clustered non-iid data

PDF

Alex Treacher, Kevin Nguyen, Dylan Owens, Daniel Heitjan, Albert Montillo

TL;DR本文比较了 4 种常见的表观 UQ 方法，即 BNN、SWAG、MC dropout 和集成方法，在 ARMED MEDL 模型的统计指标、协变系数和预测置信度方面的能力，实验结果表明，90％子采样的集成方法提供了最佳的全面性能，同时保持 MEDL 使用 ARMED 的基线性能，并为模型拟合，协变系数和预测提供了统计显着性。

Abstract

This work demonstrates the ability to produce readily interpretable statistical metrics for model fit, fixed effects covariance coefficients, and prediction confidence. Importantly, this work compares 4 suitable

statistical metrics uq approaches ensemble methods armed medl models prediction confidence

发现论文，激发创造

对复杂动态系统中认识不确定性和随机不确定性量化的机器学习架构评估

本研究比较了多种机器学习技术的 UQ 准确性，并对两个模型（船只在波浪中的运动和 Majda-McLaughlin-Tabak 模型）进行了应用。

Jun, 2023

神经网络不确定性估计在分类问题中的质量比较

对深度学习的 UQ 方法进行了质量评估，比较了不同模型的不确定性估计质量。

Aug, 2023

神经网络势能单模型的不确定性量化表现未必比模型集合更好

本研究考察了用于提高神经网络相互作用势模型的稳健性的多个不确定性量化方案，包括平均 - 方差估计，深度证据回归和高斯混合模型，并与现有基于集成的方法进行比较。研究表明，对于不确定性量化，成本有效的单一确定性模型尚不能始终匹配或胜过集成方法。

May, 2023

深度不确定性：比较深度学习算法中的不确定性量化方法

本文研究比较了在一个物理系统的背景下，深度学习算法的不确定性量化方法，包括贝叶斯神经网络，Concrete Dropout 和 Deep Ensembles，并探讨了它们的优缺点，结果为使用和解释不确定性量化方法提出了一些建议。

Apr, 2020

评估不确定性估计方法在点云三维语义分割上的表现

本研究评估了三种不确定性量化方法，即深度集成，MC-Dropout 和 MC-DropConnect 在 DarkNet21Seg 3D 语义分割模型上的影响，并全面分析了各种参数对任务性能和不确定性估计质量的影响。研究发现，深度集成的表现在性能和不确定性度量方面优于其他方法，mIOU 提高了 2.4％，准确度提高了 1.3％，并提供可靠的不确定性来做出决策。

Jul, 2020

自动化深度集成与不确定性量化

AutoDEUQ 使用深度神经网络和超参数搜索自动生成神经网络集合，并使用方差法将预测方差分解为数据方差和模型方差，这种方法在许多回归基准测试中优于几种现有的不确定性量化方法。

Oct, 2021

对抗模型下不确定性的量化

利用对抗模型量化不确定性提高估计认知不确定性的准确性，相较于现有方法，Quantification of Uncertainty with Adversarial Models 能够更好地捕捉深度学习模型中的认知不确定性。

Jul, 2023

利用不确定性量化改进标签错误检测与消除

通过使用基于不确定性量化的线标错误检测算法（UQ-LED），本研究展示了选择性清理数据集比使用更大、更嘈杂的数据集能够实现更准确的分类。

May, 2024

基于加密的蒙特卡罗预测的鲁棒不确定性量化

用深度学习模型进行安全关键应用的部署仍然是一项非常具有挑战性的任务。我们介绍了一种新的混合不确定性量化方法，将自适应的蒙特卡罗（MC）dropout 方法与符合预测（CP）相结合，提供可靠的预测集 / 区间，从而大大改进了现有的不确定性量化方法。

Aug, 2023

基于 DNN 的分子性质预测的可扩展不确定性估计方法评估

本研究旨在定量比较 GCNNs 中不确定性估计的可扩展技术，介绍了一组定量标准来捕捉不同方面的不确定性，并使用这些标准在 QM9 数据集上理论和实验比较了 MC-Dropout、deep ensembles 和 bootstrapping 这些不确定估计方法，结果表明合奏和自举法始终优于 MC-Dropout 方法，在不同的具体情境中具有不同的优点和缺点，并突出了来自不同领域的不确定性所带来的挑战。

Oct, 2019