评估基于贝叶斯深度学习的语义分割方法
本研究评估了三种不确定性量化方法,即深度集成,MC-Dropout 和 MC-DropConnect 在 DarkNet21Seg 3D 语义分割模型上的影响,并全面分析了各种参数对任务性能和不确定性估计质量的影响。研究发现,深度集成的表现在性能和不确定性度量方面优于其他方法,mIOU 提高了 2.4%,准确度提高了 1.3%,并提供可靠的不确定性来做出决策。
Jul, 2020
在当前深度学习研究的背景下,着重于在涉及大型图像和语言数据集的监督任务中取得高预测准确性,然而从更广泛的视角来看,存在许多被忽视的度量标准、任务和数据类型,如不确定性、主动和持续学习以及科学数据,需要关注。本文认为贝叶斯深度学习(BDL)是一个有前途的方向,在这些不同环境中提供了优势。本文强调 BDL 的优势、现有挑战,并重点介绍了一些旨在解决这些障碍的令人兴奋的研究路径。展望未来,讨论集中在如何将大规模基础模型与 BDL 结合起来发挥其全部潜力。
Feb, 2024
本文提出一种新的生成贝叶斯深度学习(GBDL)体系结构,可用于半监督医学图像分割任务,结构设计完全基于贝叶斯理论,同时融合了生成模型和生成贝叶斯深度学习的特点,可以利用标记和未标记的数据对训练进行优化,实验证明,该方法对于三个公共的医学数据集,在四个常用的评估指标上优于之前的最新技术。
Jun, 2022
我们提出了一个受真实医学图像诊断启发的新的贝叶斯深度学习基准测试,用于模型的不确定性预筛查,包括对分布变化的鲁棒性。目前的评估方法存在不足,在我们的基准测试中,我们发现一些解决 UCI 基准测试的技术过拟合数据集,而在我们的基准测试中则表现不如一些简单的技术。
Dec, 2019
本文介绍了一种方法,通过对 BDL 组件之间的不确定性和相互作用进行考虑来捕捉整个系统的不确定性,实验表明,该方法既能够捕捉有用的不确定性估计,同时又略微提高了自主航空导航系统的性能。此外,我们还讨论了采用 BDL 构建可靠自主系统的好处、挑战和影响。
Jan, 2023
提出一种用于概率像素级语义分割的深度学习框架 ——Bayesian SegNet,可以在测试时间执行带有丢弃的蒙特卡罗采样,以生成像素类标签的后验分布,从而改善小数据集的语义分割性能,提高 2-3% 的性能。
Nov, 2015
这篇论文介绍了一种用于预测不确定性量化的基准测试方法,通过评估不同方法在三个流行数据集上对于识别被错分和不适当类别像素、以及校准的有效性,发现证据深度学习方法在高效量化不确定性方面表现最有潜力,提出了适用于高度不平衡数据的 Uncertainty-Focal-Cross-Entropy (UFCE) 损失函数,以及增强模型对高不确定性像素关注的缺空缩放规则项能够提高确定性不确定性量化。
May, 2024
通过对大量卷积和变压器模型的评估,从分布偏移的角度研究了 Bayesian 深度学习算法的泛化能力和校准能力,发现单模后验逼近被集成的方式能够显著提高模型的泛化能力和校准性,而在海量预训练模型上微调时,基于变分推理的方法表现最优,现代的近似推理算法(如 SWAG)能够实现最佳的校准度。
Jun, 2023
本文提出了一种泛用方法来获得无需提议的实例分割模型内在的不确定性估计,并且评估了在 BBBC010 C. elegans 数据集上的可行性和有效性,并模拟了这些不确定性估计在指导的校对中的潜在用途。
Aug, 2020
本文提出将 Deep Deterministic Uncertainty 扩展至语义分割领域,其能够量化和分离模型的认识不确定性和随机不确定性,同时提出将 DDU 独立于像素位置进行应用,以此减少内存消耗,最后在 Pascal VOC 2012 数据集上使用 DeepLab-v3+ 神经网络结构能够有效提升模型性能与运算速度。
Oct, 2021