ICMLNov, 2019

缓解非可辨识性对具有潜在变量的贝叶斯神经网络推断的影响

PDF
TL;DR该研究提出了一种利用贝叶斯神经网络和潜变量来准确捕捉模型不确定性的方法，并解决了该模型普遍存在的非识别性问题，并通过开发一种新的推断程序来提高预测准确性和不确定性估计。
bayesian neural networkslatent variablespredictive uncertaintyinference procedurelikelihood non-identifiability
发现论文，激发创造
  • 具有潜变量的贝叶斯神经网络中的不确定性分解

    本文研究贝叶斯神经网络和潜在变量的概率模型，使用信息论方法和风险敏感目标分别将预测不确定性分解为认知和概率性成分，以解决主动学习和安全强化学习等领域中的模型偏差问题。

    Jun, 2017

  • 模型和参数不确定性下的贝叶斯神经网络变分推断

    本研究旨在利用模型不确定性作为 BNN 结构学习的框架，提出了可与模型空间约束结合的可扩展变分推理方法，试图在模型和参数的联合空间中进行推理，进而实现结构和参数不确定性的组合，并在基准数据集上进行了实验，表明使方法比普通 Bayesian neural networks 更加稀疏，但得到了与竞争模型相当的精度结果。

    May, 2023

  • 利用潜在二元变量和归一化流稀疏化贝叶斯神经网络

    本文介绍了使用本地重新参数化技巧（LRT）和归一化流在 LBBNN 方法的变分后验分布上的应用，以改进预测性能并获得更稀疏的网络，通过两个模拟研究证明这些贝叶斯方法的使用可以得到更为实际的预测不确定性估计。

    May, 2023

  • 基于神经贝叶斯估计的认知模型的潜变量序列识别

    从计算认知模型中提取变化的潜在变量是模型基础神经分析的关键步骤，我们提出了一种方法，通过递归神经网络和模拟数据集，将神经贝叶斯估计扩展到学习实验数据和目标潜在变量空间之间的直接映射，从而在可处理和难度较大的模型中推断潜在变量序列，该方法适用于不同的计算模型和连续离散潜在空间，并在实际数据集中证明了其适用性。

    Jun, 2024

  • 基于节点的贝叶斯神经网络解决协变量偏移问题

    本文介绍一种基于节点的贝叶斯神经网络模型，通过增加隐变量将每个隐藏层节点与潜在随机变量相乘，以此模拟不同类型的数据扰动。通过增加隐变量的熵，实现了在协变量转移下，输入数据发生变化时提高隐式置信度的效果，同时还具备了对嘈杂训练数据具有鲁棒性的能力。

    Jun, 2022

  • 贝叶斯神经网络推断的不确定性量化质量

    本研究通过对 10 种常见的推断方法在回归和分类任务中的预测不确定性估计结果进行实证比较，发现常用的指标可能会导致误导，并表明为了得到高质量的后验逼近并不一定需要具有捕获后验结构的推断创新。

    Jun, 2019

  • 无标签数据改善协变量偏移下的贝叶斯不确定性校准

    本研究提出了一种基于后验正则化的近似贝叶斯推断方案，可以用未标记的目标数据作为模型置信度的 “伪标签”，这些伪标签被用于调整标记源数据上的损失，显著提高了协变量移位数据集的不确定性量化准确性，适用于转移前瞻性前列腺癌模型在全球范围内的应用。

    Jun, 2020

  • 任意非线性贝叶斯神经网络的小样本变分推断

    本研究通过仅使用 3 个确定性样本来传播统计矩，实现了对任意非线性网络层的统计矩传播，从而使得少样本变分推断成为可能，并将此方法应用于一种新的非线性激活函数，用于向 Bayesian 神经网络的输出节点注入物理先验信息。

    May, 2024

  • 关于贝叶斯神经网络中近似推断表现的探讨

    通过研究两种常见的变分方法，该文证明了在低不确定性区域之间不存在过多信息增加的情况，并提供了深度神经网络中的柔性不确定性估计的近似贝叶斯后验分布，但发现了类似于单隐层 ReLU 情况的病理现象。

    Sep, 2019

  • 鲁棒贝叶斯神经网络的确定性变分推断

    本研究提出两种创新方法以将变分贝叶斯转化为贝叶斯神经网络的稳健推理工具：一种新的确定性方法用于逼近神经网络的矩，消除了梯度方差；一种参数的分层先验和自动选择先验方差的新的经验贝叶斯程序。将这两种方法结合起来，所得到的方法高效而稳健，在异方差回归应用中表现出了很好的预测性能。

    Oct, 2018