ICLROct, 2019

诊断泛化不良时，显著性可能是一个误导

PDF
TL;DR该论文研究利用辅助标签（即人工绘制的掩模）训练模型以在预测任务中忽略分散注意力的外部特征，以提高模型的泛化性能，同时也探讨了模型泛化性能不佳的根本原因以及采用掩模在 “说明性预测” 任务中的实用性问题。
generalizationspuriously-correlated image featuresattribution mapsmedical imagescovariate shift
发现论文，激发创造
  • 用于模型可解释性的基于遮罩的显著性方法研究与简化

    本研究采用掩蔽技术生成显著性地图，发现训练分类器的同时，采用掩蔽技术生成显著性地图具有很高的性能，并且 10 个样本每类也可以显著提高显著性地图的精度。

    Oct, 2020

  • 显著图的合理性检查

    本文对几种显著性方法进行实验和理论探索，提出用可行的方法来评估一种方法所能提供和不能提供的解释类型。实验证明，有些现有的显著性方法具有独立性，这些方法不受模型和数据生成过程的影响，因此，那些未通过所提出测试的方法，对于对数据或模型敏感的任务（ 如在数据中找到异常值，解释模型所学到的输入和输出之间的关系以及调试模型）是不适当的。与边缘检测类比，本文发现一些显著性方法无需训练数据或模型就能有效实现其功能。

    Oct, 2018

  • 通过规范化显著性图以降低过拟合的 GradMask 算法

    为了解决在医学成像中的过拟合问题，本文提出了一种名为 GradMask 的正则化方法，通过对错误的特征与目标类之间的关联进行惩罚，防止非瘤相关特征对不健康样本的分类产生贡献，并取得了 1-3% 的精度提升。

    Apr, 2019

  • 重新思考解释：深度视觉分类器的输入无关性显著性映射

    本文提出了一种新的输入无关的显著性地图方法，它从计算上估计模型对其输出所归属的高级特征并通过可解释的可视化展示，以更加准确和公正地解释模型的行为，同时在大规模模型中成功应用，并且通过识别受损分类器中的后门签名，展示了这种新形式显著性映射的另一个有趣的用途。

    Mar, 2023

  • (不) 可靠的显著性方法

    本文探讨了深度神经网络的显著性方法在解释模型预测时的可靠性问题，提出了保证输入不变性的要求，并举例说明了不满足此要求的方法可能导致错误归因。

    Nov, 2017

  • 显著性的精细优化：基于显著性的生物特征攻击检测模型训练

    融入人类感知智能到模型训练能增强在难度较高的生物特征任务中的泛化能力，如攻击检测和合成样本检测。本文研究了不同的显著性粒度水平，通过使用简单但有效的显著性后处理技术，在数个卷积神经网络中实现了增强的攻击检测和合成人脸检测的泛化能力。

    May, 2024

  • 基于显著性引导训练的深度学习解释性改进

    本文介绍了一种基于显著性引导培训的神经网络方法，可以有效降低噪声导致的特征归因不准确，并通过实验表明这种方法能够在保持预测性能的同时提高模型可解释性。

    Nov, 2021

  • 基于概率分布预测的端到端显著性映射

    本研究提出一种基于 Bernoulli 分布的显著性图模型，并使用包括 softmax 在内的新损失函数，通过大规模数据和深度结构进行显著性估计，表现优于现有的显著性方法。

    Apr, 2018

  • 分类模型中预测不确定性的归因

    本文提出一种新的框架，将路径积分、反事实解释和生成模型相结合，以获得包含少量可观察到的人工构件或噪声的归因，并通过对各种复杂度的数据集的流行基准测试进行定量评估，证明这一方法优于现有的替代方法。

    Jul, 2021

  • 基于显著性图的数据增强

    本文介绍了一种使用显著图来限制神经网络对某些区域的不变性从而提高分类准确性的新方法。

    May, 2022