本研究介绍了一种 Bayesian 非参数集成学习方法，利用不同噪声和错误源的 Bayesian 非参数机制，对现有集成学习模型进行改进，以充分量化模型的不确定性，并将整体预测不确定性分解为不同的部分，实现了在噪声和错误较多的情况下，对空气污染暴露的预测及模型的偏差检测。

Nov, 2019

我们的研究探讨了与上下文学习相关的大型语言模型的预测不确定性，强调这种不确定性可能来自提供的示范（先验不确定性）和模型配置的歧义（后验不确定性），提出了一种新的公式和相应的估计方法来量化两种类型的不确定性，以插入和使用的方式无监督地理解上下文学习的预测。广泛的实验证明了该分解的有效性。

Feb, 2024

本文介绍了一种基于贝叶斯神经网络与潜变量的概率模型可用于对数据中的复杂噪声模式进行建模和决策，同时提出了一种通过不确定性分解策略辨识有信息量的数据点以及如何平衡预期成本、模型偏差与噪声厌恶的新型风险敏感标准用于强化学习。

Oct, 2017

本文研究贝叶斯神经网络和潜在变量的概率模型，使用信息论方法和风险敏感目标分别将预测不确定性分解为认知和概率性成分，以解决主动学习和安全强化学习等领域中的模型偏差问题。

Jun, 2017

通过神经网络传播输入不确定性时，我们提出了一种同时能够估计输入、数据和模型不确定性的方法，结果表明这种输入不确定性的传播导致更稳定的决策边界，即使在大量输入噪声的情况下也是如此。

Jun, 2024

从不确定性的角度进行的风险评估研究表明不确定性估计方法可用于揭示大型语言模型的预测风险，并可能发现由该模型生成的有错误的程序。

Jul, 2023

利用计算效率高的低秩适应集合，推导了对细调 LLM 的基于后验估计的确定性量化方法，并通过分析三个常见的多选数据集，量化和定性地得出了他们在不同目标领域中的知觉复杂性和模型效能，并假设了一种对于给定体系结构难以学习的数据领域的熵不确定性度量的信号。

Feb, 2024

提出了一种新方法，Counterfactual Latent Uncertainty Explanations（CLUE），它能够解释可微分概率模型（如贝叶斯神经网络）的不确定性估计，并能够使从业者更好地理解哪些输入模式会导致预测不确定性。

Jun, 2020

我们介绍了一种新颖方法，利用大型语言模型（LLM）结合不确定性感知模块，提供生成答案的置信度评分，从而在图处理中实现高准确性和解释性。我们在两个图处理任务上的实验证明，通过参数高效微调，LLM 在十个不同的基准数据集上胜过最先进的算法。此外，为了解决可解释性的挑战，我们提出了基于扰动的不确定性估计方法，并使用校准方案来量化生成答案的置信度得分，我们的置信度度量在预测由 LLM 生成的答案的正确性方面在十个数据集中的七个上达到了 0.8 或更高的 AUC。

Mar, 2024

通过引入一种不确定性感知的上下文学习框架，我们改进了大规模语言模型的响应质量，并过滤掉具有较高不确定性的答案，从而提高了模型的准确性。

Oct, 2023