智能系统需要进行预测，在给定一些输入的情况下，可以预测相应的结果。大部分监督学习的工作都侧重于为每个输入产生准确的边际预测，但我们表明，在广泛的决策问题类中，需要准确的联合预测才能提供良好的性能。尤其是对组合决策问题，顺序预测和多臂老虎机等问题，我们建立了几个相关结果，说明联合预测分布的重要作用。我们的多臂老虎机处理引入了一种近似 Thompson 抽样算法和分析技术，导致了一种新的遗憾边界。

Jul, 2021

本文讨论了贝叶斯深度学习中联合预测的重要性以及实际应用，提出了使用主动学习和主动采样进行评估的新挑战性设置，并提出了需改进的实现联合预测的问题。

May, 2022

该论文通过混合狄利克雷分布的变分推断来建模一致的目标分布，并通过学习得到的元分布模型提取目标模型中的学到的不确定性。实验证明我们提出的方法在各种基于不确定性的后续任务中具有优越性，并展示了学到的认知不确定性的一致性和不一致性带来的实际影响。

Feb, 2024

本论文描述了如何利用模型损失函数的影响函数构建频率学过程，以构建一种基于 Frequentist 的 Discriminative Jackknife 方法，用于估计深度学习模型的预测不确定性。实验表明，该方法相对于基于贝叶斯神经网络的方法和非贝叶斯回归基线表现具有竞争力。

Jun, 2020

我们提出了一种基于假设的方法来确定新样本是属于训练集范围内还是超出范围，在黑盒系统中，通过深度神经网络 (DNN) 计算超出范围 (Out-of-Distribution, OoD) 的隐含回应，并将 OoD 检测问题形式化为不同组的隐含回应之间的假设检验。我们将这种方法应用于一个训练好的深度学习模型，用以检测未知的细菌样本，并展示了其在 InD 和 OoD 隐含回应之间揭示了可解释的差异。该方法对于系统性的新颖性检测和基于子标签训练的分类器的明智决策具有重要意义。

Mar, 2024

本研究旨在探索深度学习模型的不确定性量化方法，并考虑基于贝叶斯推理的模型在 OoD 检测中的表现，结果显示在某些情况下，这种模型略高于传统的深度神经网络，对于对新输入的敏感性的原因进行研究，并对对抗噪声鲁棒性的影响进行了研究。

Sep, 2020

本文提出了一种基于深度神经网络的参数概率分布模型来检测分布外和对抗性样本的方法，并探讨了高精度建模特征分布所带来的实际增益。

Sep, 2019

本文提出了使用 Dirichlet 近似来构建分类神经网络输出的分布，该近似比先构建权重的 Gaussian 分布再进行采样来得更省时，同时有利于计算不确定性和大规模数据集的应用，例如 ImageNet。

Mar, 2020

本文提出了一种建立在鲁棒性预测推断上的不确定性估计模型，使用 conformal inference 方法建立了准确覆盖测试数据分布的预测集，通过估计数据漂移量建立了鲁棒性，并在多个基准数据集上进行了实验证明了该方法的重要性。

Aug, 2020

研究对敌对选择的高维状态进行预测的问题，在任意条件事件下实现无偏见，并旨在为下游决策者量身定制这些事件。提供了有效的算法来解决这个问题，以及选择适当的条件事件所带来的一系列应用。

Oct, 2023