基于事后置信度估计的语义分割的选择性预测及其在分布偏移下的性能

Feb, 2024

基于事后置信度估计的语义分割的选择性预测及其在分布偏移下的性能

Selective Prediction for Semantic Segmentation using Post-Hoc Confidence Estimation and Its Performance under Distribution Shift

PDF

Bruno Laboissiere Camargos Borges, Bruno Machado Pacheco, Danilo Silva

TL;DR在低资源环境下，本研究通过对预训练模型应用后验置信度估计方法，旨在解决语义分割中的分布偏移问题，并通过对三个医学影像任务进行实验，证明了后验置信度估计方法降低分布偏移影响的有效性。

Abstract

semantic segmentation plays a crucial role in various computer vision applications, yet its efficacy is often hindered by the lack of high-quality labeled data. To address this challenge, a common strategy is to

semantic segmentation labeled data distribution shift selective prediction confidence estimators

发现论文，激发创造

符合语义图像分割：事后量化预测不确定性

我们提出了一种后续处理、计算轻量级的方法来量化语义图像分割的预测不确定性。我们的方法使用合拢预测生成统计上有效的预测集，以预定义的置信水平保证包含地面真实分割掩模。我们介绍了一种基于热图的合拢化预测的新型可视化技术，并提供了评估其实证有效性的度量标准。我们在著名的基准数据集和图像分割预测模型上展示了我们方法的有效性，并提供了实用的见解。

Apr, 2024

语义分割模型的校准：分析与算法

研究了语义分割校准的问题，提出了一种简单而有效的选择性缩放方法来校准模型，实验结果表明其在多个基准测试中具有卓越的性能。

Dec, 2022

523 个 Imagenet 分类器的选择性预测和不确定性估计性能有什么可学之处

本文考察 523 个现有的深度图像分类器在选择性预测和不确定性估计性能方面的表现，发现蒸馏型训练方案普遍比其他训练方案具有更好的估计不确定性的能力，ViT 模型在不确定性估计方面的表现超过其他模型。

Feb, 2023

先验转移下的分布鲁棒事后分类器

训练模型以适应由类先验或群组先验的分布变化引起的偏移问题并不容易，我们提出一种极其轻量级的事后方法，通过在验证集上求解约束优化问题并应用于模型，从而在测试时尽量减小选定目标分布周围的分布鲁棒性损失，并带有可证明的保证和实证的结果证明，表明我们的方法非常适用于分布鲁棒的事后分类器。

Sep, 2023

层次化的选择性分类

部署深度神经网络用于风险敏感任务需要一个不确定性估计机制。本文介绍了分层选择分类，将选择分类扩展到分层环境中。我们的方法利用类别关系的固有结构，使模型在面临不确定性时减少其预测的特异性。本文首先形式化了分层风险和覆盖，并介绍了分层风险覆盖曲线。接下来，我们开发了针对分层选择分类的算法（也称为 “推理规则”），并提出了一种能够以高概率保证目标准确性约束的高效算法。最后，我们对一千多个 ImageNet 分类器进行了大量的实证研究，揭示了诸如 CLIP、ImageNet21k 预训练和知识蒸馏等训练制度提升了分层选择性能。

May, 2024

评估在分布偏移下的三维图像分割的不确定性估计方法

通过比较贝叶斯和非贝叶斯方法，本研究探讨了在医疗图像识别任务中使用先进的不确定性估计方法的可行性，旨在实现可靠和可信赖的诊断预测，结果表明处理后验分布中多峰特性的方法提供了更可靠的不确定性估计。这项研究有助于提升深度学习在医疗保健领域的实用性，使诊断预测更加健壮和可靠。

Feb, 2024

利用不可靠的伪标签进行半监督语义分割

本研究提出了一种通过利用熵值对可靠像素和不可靠像素进行分类，再进一步将不可靠像素分配为负样本，从而对无标签数据进行半监督语义分割的有效策略

Mar, 2022

通过后续逻辑归一化和温度缩放改善深度神经网络的选择分类表现

本文介绍了一种简单高效的后验置信度估计器 - $p$-NormSoftmax，它可以大幅提高预训练模型的选择性分类性能，并在实验中证明了此方法的有效性。

May, 2023

领域自适应语义分割中通过不确定性估计纠正伪标签学习

本文提出了一种基于预测不确定性纠正伪标签学习的无监督语义分割自适应方法，通过模型输出语义分割预测和预测的不确定性，利用预测的方差建模估计不确定性，并将其纳入优化目标，从而动态地根据不同的置信度阈值纠正噪声伪标签，显著提高了在三个基准测试集上的性能。

Mar, 2020

通过未标记数据的不确定性估计缓解语义分割中的分布偏移

基于未标记数据的 Gamma-SSL 方法通过选择性强制一致性来进行不确定性估计，用于在自动驾驶环境中检测语义分割模型的错误。在具有挑战性的分类基准上，该方法在 ROC 曲线下面积和 PR 曲线下面积方面的表现超过了不确定性估计和离群分布技术。

Feb, 2024