集成学习中的准确不确定性估计和分解

Nov, 2019

集成学习中的准确不确定性估计和分解

Accurate Uncertainty Estimation and Decomposition in Ensemble Learning

Jeremiah Zhe Liu, John Paisley, Marianthi-Anna Kioumourtzoglou, Brent Coull

TL;DR本研究介绍了一种 Bayesian 非参数集成学习方法，利用不同噪声和错误源的 Bayesian 非参数机制，对现有集成学习模型进行改进，以充分量化模型的不确定性，并将整体预测不确定性分解为不同的部分，实现了在噪声和错误较多的情况下，对空气污染暴露的预测及模型的偏差检测。

Abstract

ensemble learning is a standard approach to building machine learning systems that capture complex phenomena in real-world data. An important aspect of these systems is the complete and valid quantification of model unc

ensemble learning model uncertainty bayesian nonparametric ensemble uncertainty decomposition model bias detection

发现论文，激发创造

透过输入澄清集成对大型语言模型的不确定性进行分解

本文介绍了一种用于大型语言模型的不确定性分解框架，称为输入澄清集合，可提供准确可靠的不确定性量化，改进了大型语言模型的可靠性、可信度和可解释性。

Nov, 2023

贝叶斯深度学习中不确定性分解的高效和风险敏感学习

本文介绍了一种基于贝叶斯神经网络与潜变量的概率模型可用于对数据中的复杂噪声模式进行建模和决策，同时提出了一种通过不确定性分解策略辨识有信息量的数据点以及如何平衡预期成本、模型偏差与噪声厌恶的新型风险敏感标准用于强化学习。

Oct, 2017

具有潜变量的贝叶斯神经网络中的不确定性分解

本文研究贝叶斯神经网络和潜在变量的概率模型，使用信息论方法和风险敏感目标分别将预测不确定性分解为认知和概率性成分，以解决主动学习和安全强化学习等领域中的模型偏差问题。

Jun, 2017

使用深度集成实现简单且可扩展的预测不确定性估计

本研究提出了一种替代贝叶斯 NN 的简单实现方法，其能够产生高质量的预测不确定性估计，并在分类和回归数据集上进行了实验以证明这一点。此外，研究还评估了在已知和未知数据分布下的预测不确定性，并证明该方法能够在超出分布的样本上表现出更高的不确定性，同时在 ImageNet 上证明了该方法的可扩展性。

Dec, 2016

神经网络的不确定性：近似贝叶斯集成

该论文介绍了一种基于贝叶斯原理的神经网络反演方法，利用对先验分布采样的数据正则化参数，从而提高神经网络模型的预测不确定性识别和量化能力。经过理论和实证分析，该方法相对于传统的平均集成技术具有更好的性能表现。

Oct, 2018

采用集合学习进行计算光学形态测量的不确定性量化

通过集合学习方法探索计算光学形态测量中的不确定度量化问题，采用深度学习方法来解决大规模的非线性反问题，并通过插入外分布误差以及噪声数据来探索其可靠性，研究结果表明集合方法可以在高维数据的实际应用中进行可靠预测。

Mar, 2021

从贝叶斯角度看深度合奏

深度集成是一种用于深度学习中不确定性量化的最新技术，本研究通过指定相关假设，证明了其可视为近似贝叶斯方法，该发现有助于改进估计并增大认识不确定性，数值实验表明这种改进有助于提高鲁棒性，同时可以通过分析导出方便计算的结果。

May, 2021

自动化深度集成与不确定性量化

AutoDEUQ 使用深度神经网络和超参数搜索自动生成神经网络集合，并使用方差法将预测方差分解为数据方差和模型方差，这种方法在许多回归基准测试中优于几种现有的不确定性量化方法。

Oct, 2021

对复杂动态系统中认识不确定性和随机不确定性量化的机器学习架构评估

本研究比较了多种机器学习技术的 UQ 准确性，并对两个模型（船只在波浪中的运动和 Majda-McLaughlin-Tabak 模型）进行了应用。

Jun, 2023

评估可扩展的贝叶斯深度学习方法在稳健计算机视觉中的应用

该论文提出了一种深度学习可扩展的确定性和不确定性评估框架，并对两种最先进的可扩展方法进行了比较，即集成和 MC-dropout，结果表明集成方法提供更可靠和实用的不确定性估计。

Jun, 2019