May, 2023

深度集成多样化：一种基于显著性图的增强 OOD 检测、校准和精度的方法

PDF
TL;DR本文提出了一种基于显著性地图的深度集成方法，通过增加集合成员之间的差异性来改进分类和 OOD 检测。在多项实验中，该方法优于传统集成技术，同时提高了校准性，在 OpenOOD 基准测试中显示出潜在的实际应用前景。
deep ensemblesood detectionsaliency mapensemble techniquescalibration
发现论文，激发创造
  • 深度集成多样性用于外部分布检测的可用性

    深度学习中用深度集成方法提升神经网络的鲁棒性能，在大规模图片数据集中使用互信息指标 (OOD）的检测效果比单一模型的熵指标要劣 30-40%，使用集成多个分类器的检测得分对 Deep Ensemble OOD 检测性能有着更好的提升表现 。

    Jul, 2022

  • 多元突出感知深度集成提高对抗性鲁棒性

    提出一种基于多样性促进学习的深度集成方法，提高深度集成模型抵抗对手攻击的能力，减少攻击的迁移效应，实现更好的白盒和黑盒攻击防御性能。

    Dec, 2021

  • 基于深度多理解集成的异常检测

    通过创新的方法将不同的监督任务纳入传统的模型集成，构建了多理解（MC）集成机制，通过生成数据和标签的不同理解来拓展特征表达领域，实验证明了该方法相对于其他方法在 OOD 检测中的卓越性能。

    Mar, 2024

  • 多层级聚合作为基于特征的 OOD 检测关键

    通过对大量的异常数据进行实验比较，我们发现基于特征的异常检测方法中，多层方法始终表现优异，而单层方法的性能不稳定且取决于异常类型，同时异常检测的性能也高度依赖于神经网络的架构。

    Jul, 2023

  • 指向便携式超声成像乳腺癌分类方法的非同源检测

    通过使用三种不同的方法：softmax、能量分数和深度集成，并在三个不同的数据集上进行测试，本研究通过点对点超声图像对乳腺癌进行分类，并发现能量分数方法在两个数据集上优于 softmax 方法，而深度集成方法是最稳健的，在所有三个数据集上最适合检测 OOD 样本。

    Feb, 2024

  • MultiOOD：多模态下的扩展外分布检测

    通过引入多模态 OOD（Out-of-Distribution）检测基准 MultiOOD，本研究评估了现有的单模态 OOD 检测算法，并提出了 Agree-to-Disagree（A2D）算法和 NP-Mix 异常值合成方法，通过利用多模态信息和探索更广泛的特征空间，显著提升了现有 OOD 检测算法的性能。

    May, 2024

  • 利用自监督排除分类器集合进行的外分布检测

    本论文提出一种基于深度学习和分类器集成的方法，通过独特的基于边界的损失函数来可靠地检测出分布外数据，同时在超过一些 OOD 检测基准上明显优于现有算法。

    Sep, 2018

  • OOD 感知的有监督对比学习

    使用 SupCon 训练从训练分布中识别外分布样本是机器学习模型安全部署中的重要问题。我们在这项工作中运用强大的 SupCon 学习表征，并提出了一种全面的方法来学习对 OOD 数据稳健的分类器。我们通过增加两个对比项来扩展 SupCon 损失，第一个项将辅助 OOD 表征与 ID 表征分开，而不对辅助数据的相似性产生任何约束。第二个项将 OOD 特征远离现有类原型，并将 ID 表征推近其对应的类原型。当辅助 OOD 数据不可用时，我们提出了特征混合技术来高效生成伪 OOD 特征。我们的解决方案简单高效，作为闭集监督对比表征学习的自然扩展。我们在常见基准测试中与不同的 OOD 检测方法进行了比较，并展示了最先进的结果。

    Oct, 2023

  • 全面的 OOD 检测改进

    机器学习中，识别推理数据是否超出模型的预期输入分布对于给出预测的上下文至关重要。我们的研究针对基于表示或基于逻辑方法的超出分布检测方法，并提出了用于特征嵌入降维的表示方法和解决了一个问题的基于逻辑方法。我们在 OpenOODv1.5 基准框架上验证了我们方法的有效性，结果显示性能显著提升，并达到了最新的技术水平。

    Jan, 2024

  • 基于损失景观角度重新审视深度集成用于外部分布检测

    通过对损失景观和模态集进行研究，提出了一种新的视角来调查面向损失景观的异常样本检测，重访了深度集成方法以提高异常检测性能和减小变异，并通过广泛的实验证明了模态的高度变化和模态集成在提升异常检测中的优越性。

    Oct, 2023