ICMLJun, 2020

使用多头辅助网络的深度贝叶斯回归的不确定性感知 (UNA) 基础

PDF
TL;DR本研究提出了一种训练框架，可以有效地捕捉神经线性模型中的预测不确定性，以适用于风险敏感的应用场景。该框架可以学习数据的特征并进行贝叶斯线性回归，从而生成预测不确定性。
发现论文，激发创造
  • 多维贝叶斯回归最末层：不确定性量化与解缠

    我们提出了一种新的贝叶斯末层模型，用于处理异方差噪声下的多变量回归，并提出了一种参数学习的优化算法。贝叶斯末层模型将预测分布的贝叶斯建模与神经网络的参数化相结合，能够通过单次前向传递进行不确定性量化。该框架能够区分事件误差和认知误差，并可用于将经典训练的深度神经网络迁移到具有不确定性感知能力的新数据领域。

    May, 2024

  • 具有潜变量的贝叶斯神经网络中的不确定性分解

    本文研究贝叶斯神经网络和潜在变量的概率模型，使用信息论方法和风险敏感目标分别将预测不确定性分解为认知和概率性成分，以解决主动学习和安全强化学习等领域中的模型偏差问题。

    Jun, 2017

  • 使用深度集成实现简单且可扩展的预测不确定性估计

    本研究提出了一种替代贝叶斯 NN 的简单实现方法，其能够产生高质量的预测不确定性估计，并在分类和回归数据集上进行了实验以证明这一点。此外，研究还评估了在已知和未知数据分布下的预测不确定性，并证明该方法能够在超出分布的样本上表现出更高的不确定性，同时在 ImageNet 上证明了该方法的可扩展性。

    Dec, 2016

  • 深度学习不确定性估计的通用框架

    提出了一种用基于贝叶斯信任网络和蒙特卡罗采样的方法来对神经网络进行不确定性估计，这个方法具有与神经网络结构和任务无关，不需要优化进程的更改，能够应用于已经训练好的结构，有效地提高了准确性。

    Jul, 2019

  • 通过贝叶斯学习深度神经网络结构来度量不确定性

    这篇研究论文探究了一种新型的贝叶斯深度学习，通过在网络结构上执行贝叶斯推断来加强深度网络的不确定性估计，并提出了一种有效的随机变分推断方法，以统一网络结构和权重的学习。

    Nov, 2019

  • 基于贝叶斯方法的批标准化深层网络不确定性估计

    使用批归一化训练深度神经网络相当于在贝叶斯模型中进行近似推理，通过一系列实验验证此方法有效，对比基线和贝叶斯方法表现显著优于前者，与后者相媲美。

    Feb, 2018

  • 无标签数据改善协变量偏移下的贝叶斯不确定性校准

    本研究提出了一种基于后验正则化的近似贝叶斯推断方案，可以用未标记的目标数据作为模型置信度的 “伪标签”，这些伪标签被用于调整标记源数据上的损失，显著提高了协变量移位数据集的不确定性量化准确性，适用于转移前瞻性前列腺癌模型在全球范围内的应用。

    Jun, 2020

  • 贝叶斯深度学习中不确定性分解的高效和风险敏感学习

    本文介绍了一种基于贝叶斯神经网络与潜变量的概率模型可用于对数据中的复杂噪声模式进行建模和决策，同时提出了一种通过不确定性分解策略辨识有信息量的数据点以及如何平衡预期成本、模型偏差与噪声厌恶的新型风险敏感标准用于强化学习。

    Oct, 2017

  • 利用人工神经网络学习不确定性以改进预测性流程监控

    研究了使用贝叶斯神经网络中的可学习不确定性来训练预测过程监控模型，以预测剩余时间和结果，并得出结论认为这种不确定性估计可以区分更精确和不太精确的预测，从而提高了用户对于这种预测系统的信心，在合作和以较小的数据集进行更早的实施方面具有潜在的可应用性。

    Jun, 2022

  • 基于贝叶斯深度学习组件的可靠自主系统

    本文介绍了一种方法，通过对 BDL 组件之间的不确定性和相互作用进行考虑来捕捉整个系统的不确定性，实验表明，该方法既能够捕捉有用的不确定性估计，同时又略微提高了自主航空导航系统的性能。此外，我们还讨论了采用 BDL 构建可靠自主系统的好处、挑战和影响。

    Jan, 2023