bayesian deep learning | BriefGPT

关键词bayesian deep learning

搜索结果 - 65

广义拉普拉斯近似
Bayesian 深度学习的不一致性引起了越来越多的关注，温度调节或广义后验分布通常提供了解决这个问题的直接有效方法。本研究引入了一个统一的理论框架，将 Bayesian 不一致性归因于模型规范不当和先验不足，提出了广义 Laplace 近
PDFa month ago
贝叶斯深度学习中的无 Hessian Laplace
在该研究中，我们提出了一种利用拉普拉斯近似的替代框架，通过使用后验的曲率和网络预测来估计方差，既避免了计算和翻转黑塞矩阵的步骤，又能够在预训练网络中高效地进行。实验证明，相比于精确和近似黑塞矩阵，该方法表现相当，并具有良好的不确定性覆盖范围
PDF4 months ago
大规模人工智能时代的贝叶斯深度学习
在当前深度学习研究的背景下，着重于在涉及大型图像和语言数据集的监督任务中取得高预测准确性，然而从更广泛的视角来看，存在许多被忽视的度量标准、任务和数据类型，如不确定性、主动和持续学习以及科学数据，需要关注。本文认为贝叶斯深度学习（BDL）是
PDF5 months ago
深度贝叶斯模型的改进变分推理
深度学习和贝叶斯深度学习使用变分推断和边缘似然来进行后验推理和模型选择。
PDF5 months ago
结合分割一致预测与贝叶斯深度学习的超出分布覆盖率
贝叶斯深度学习和符合性预测是两种用于传达不确定性并增强机器学习系统安全性的方法，本文关注将贝叶斯深度学习与拆分符合性预测相结合，并探讨这种组合对于多类图像分类中的带外覆盖的影响。研究结果表明，当模型在校准集上普遍缺乏信心时，所得到的符合性集
PDF7 months ago
熵 - MCMC：轻松从平坦盆地采样
通过引入辅助引导变量，我们提出了一种简单的联合分布，该方法通过对后验采样偏置，使采样更多地集中在平坦区域，从而实现了更高效的后验采样以及更好的性能表现。
PDF9 months ago
ICLR如果没有欠拟合，就没有冷后验效应
贝叶斯深度学习中的冷后验效应表明，在温度 $ T <1 $ 的后验中，预测效果可能比贝叶斯后验 ($ T = 1 $) 要好。本研究更深入地阐述了冷后验效应，揭示只有当贝叶斯后验出现欠拟合情况时，才会出现冷后验效应。事实上，理论上证明了如果
PDF9 months ago
深度贝叶斯分类的函数空间正则化
文章探讨了一种在预测空间中采用 Dirichlet 先验和进行近似函数空间变分推理的方法，通过该方法，可以将相同的函数空间先验合并到不同的模型中，提高可扩展性，改进不确定性量化和敌对抗性。
PDFa year ago
在线拉普拉斯模型选择再探
本文重新推导了在线 Laplace 方法，表明它们针对一种在模型选择问题中纠正了模态的 Laplace 证据的变分界。在线 Laplace 方法以及其纠正模态的版本在近乎平稳点上实现最优解，通过应用于 UCI 回归数据集，优化关键参数并防止
PDFa year ago
越界：深度学习及其 (非) 鲁棒性的严格理解
本研究回顾了深度学习的鲁棒性问题，尤其是从近似理论到统计学习理论的关注和尝试，并回顾了贝叶斯深度学习作为不确定性量化和严格可解释性的一种手段。
PDFa year ago
密度不确定性层用于可靠的不确定性估计
为了应用于深度学习的相关领域，评估深度神经网络的预测不确定性是至关重要的。本文提出了一种新的预测不确定性标准，它应该基于输入的经验密度，使得对于训练数据中不可能出现的输入提供更高的不确定性，对于更可能出现的输入提供较低的不确定性，并开发了一
PDFa year ago
超越深度集成 —— 基于分布转移评估贝叶斯深度学习的大规模研究
通过对大量卷积和变压器模型的评估，从分布偏移的角度研究了 Bayesian 深度学习算法的泛化能力和校准能力，发现单模后验逼近被集成的方式能够显著提高模型的泛化能力和校准性，而在海量预训练模型上微调时，基于变分推理的方法表现最优，现代的近似
PDFa year ago
神经常微分方程中的不确定性和结构
本研究使用贝叶斯深度学习技术将轻量级机器学习方法应用于神经常微分方程以获得结构化和有意义的不确定性量化，研究了机械知识和不确定性量化在两种神经常微分方程框架下的相互作用 - 辛神经常微分方程和神经常微分方程物理模型的补充，证明了方法在低维
PDFa year ago
基于神经网络的语音增强中融入不确定性
该研究通过在神经网络的语音信号增强过程中，将 aleatoric 和 epistemic 不确定性模型化，提出了一种模型不确定性建模的框架，并在不同数据集上验证了该方法的有效性。
PDFa year ago
利用不确定性感知因果模型提高基于图像的精准医疗
本研究使用基于贝叶斯的深度学习技术，通过对多发性硬化症患者的 MRI 图像进行数据训练，估计病人的不同治疗方案的后验分布，计算每种治疗方案和任意两种治疗方案之间的个体治疗效应（ITE）并对其不确定性进行评估，从而实现 “精准医学”，并对临床
PDFa year ago
后验退火：回归问题的快速校准不确定性
本研究提出了一种名为后验退火的快速校准不确定性估计方法，适用于多种深度回归模型和任务，并在各种网络结构和不同领域的任务上进行了实证分析。
PDFa year ago
基于贝叶斯深度学习组件的可靠自主系统
本文介绍了一种方法，通过对 BDL 组件之间的不确定性和相互作用进行考虑来捕捉整个系统的不确定性，实验表明，该方法既能够捕捉有用的不确定性估计，同时又略微提高了自主航空导航系统的性能。此外，我们还讨论了采用 BDL 构建可靠自主系统的好处、
PDFa year ago
基于贝叶斯深度学习的糖尿病视网膜病变检测任务的基准测试
本文提出了 RETINA 基准测试，用于评估贝叶斯深度学习方法的可靠性和在安全关键场景下的预测不确定性量化。作者使用两个公开数据集设计了一组自动诊断任务，要求对高分辨率人类视网膜图像进行可靠的预测不确定性量化，以此来考察现有的贝叶斯深度学习
PDF2 years ago
通过距离感知先验校准贝叶斯神经网络的不确定性
本文提出了一种基于距离感知的先验分布校准方法 (DAP)，可用于纠正贝叶斯深度学习模型在域外过于自信的问题，该方法可以作为后处理步骤执行，并能够有效地用于多种分类和回归问题。
PDF2 years ago
ECCVBayesCap: 冻结神经网络中的贝叶斯身份盖帽，用于校准不确定性
BayesCap 是一种内存效率高、可应用于各种架构和任务、能够提供预测的校准不确定性估计的方法，它为预训练的非贝叶斯计算机视觉模型提供了增强，同时不会降低模型性能或需要昂贵的重新训练模型，可以应用于图像处理、医疗图像翻译和自动驾驶等关键场
PDF2 years ago