TEDL: 一种用于分类不确定性量化的双阶段证据深度学习方法
本文揭示了 Evidential Deep Learning(EDL)中由不确定性值产生的证据信号的存在,并通过理论和实证研究证明了 EDL 的不确定性与误分类偏差之间的关联,从而揭示出 EDL 对 loss functions 的耦合情况。
Oct, 2023
该论文通过混合狄利克雷分布的变分推断来建模一致的目标分布,并通过学习得到的元分布模型提取目标模型中的学到的不确定性。实验证明我们提出的方法在各种基于不确定性的后续任务中具有优越性,并展示了学到的认知不确定性的一致性和不一致性带来的实际影响。
Feb, 2024
开发基于 Evidential Deep Learning (EDL) 的不确定性估计框架的第一个方法,通过引入 MEDL-U,该框架不仅生成伪标签,而且量化相关的不确定性。实验证明,使用 MEDL-U 训练的概率性探测器在 KITTI 验证集中的所有难度级别上超过之前的 3D 注释器的确定性探测器,并在 KITTI 官方测试集上实现了最先进的结果。
Sep, 2023
通过提出双分支证据深度学习(DuEDL)框架,该研究旨在改善使用线条标注进行医学图像分割时准确性与可靠性之间的权衡问题,并证明该方法在提高模型的可靠性和泛化能力方面表现优于现有方法。
May, 2024
介绍了 Evidential deep learning 在 named entity recognition (NER) 中实现 predictive uncertainty 的困难之处,并提出了一种可信 named entity recognition (E-NER) 框架,引入了两个基于不确定性的错误函数以及一系列基于不确定性的训练策略。实验证明 E-NER 能够应用于多种 NER 模式,并获得准确的不确定性估计。与最先进的基线相比,所提出的方法在 OOV/OOD 检测性能和 OOV 实体的泛化能力方面均有所提高。
May, 2023
提出了一种基于 Fisher Information-based 的 Evidential Deep Learning 方法,该方法通过测量样本携带的信息量动态地重新加权目标损失项,使网络更专注于不确定类别的表示学习,在多个数据不确定性评估任务中具有更好的性能表现,特别是在更具挑战性的 few-shot 分类环境下。
Mar, 2023
本研究提出了一种基于专家分歧引导的不确定性估计方法(EDUE),用于医学图像分割,通过利用多个评分者对地面事实标注的变异性,我们在训练过程中引导模型,并结合基于随机抽样的策略来增强校准置信度,我们的方法在图像和像素级别上与专家分歧相比,平均相关性分别提高了 55% 和 23%,具有更好的校准性能,并且相较于最先进的深度集合,在只需进行单次前向传递的情况下,具有具有竞争性的分割性能。
Mar, 2024
在放射治疗剂量预测领域,我们应用了一种名为深度证据学习的不确定性量化框架,通过使用 Open Knowledge-Based Planning Challenge 数据集的医学影像,我们发现该模型可以有效地产生与预测误差相关的不确定性估计,在网络训练完成后仅经过重新构建原始损失函数以实现稳定实现。实验结果表明,深度证据学习相对于 Monte-Carlo Dropout 和 Deep Ensemble 方法,能够更线性地根据不确定性阈值变化的中位误差,与模型误差均匀校准的敏感性。同时,我们发现对于加入高斯噪声的 CT 强度,与表征数据噪声的 aleatoric 不确定性表现出更显著的分布变化。总的来说,我们的研究结果表明深度证据学习是一种有前景的方法,可以为放射治疗剂量预测的深度学习模型提供统计稳健性,我们还展示了如何使用这种模型构建预测的剂量体积直方图的置信区间。
Apr, 2024
该研究论文提出了一种将证据深度学习方法与持续学习框架相结合的方法,能够同时进行增量对象分类和越界检测,在 CIFAR-100 数据集上的实验结果显示,该方法在对象分类和越界检测方面表现出色。
Sep, 2023