Oct, 2020

用于模型可解释性的基于遮罩的显著性方法研究与简化

PDF
TL;DR本研究采用掩蔽技术生成显著性地图，发现训练分类器的同时，采用掩蔽技术生成显著性地图具有很高的性能，并且 10 个样本每类也可以显著提高显著性地图的精度。
saliency mapsinput masksclassifiermodel interpretabilitylocalization error
发现论文，激发创造
  • 掩蔽以改进卷积神经网络的对比式自监督学习，并揭示显著性

    通过在卷积神经网络中引入掩蔽操作作为额外的数据增强方法，并显式考虑显著性约束，本研究提出了一种改进的对比学习框架，以减轻包括掩蔽操作在内的对比学习中存在的问题，并在多个数据集、对比学习机制和下游任务上进行的广泛实验验证了其有效性和卓越性能。

    Sep, 2023

  • 黑盒分类器的实时图像显著性

    本文介绍了一种快速的显著性检测方法，可以应用于任何可微分的图像分类器，其通过训练掩膜模型来操纵分类器的分数，从而检测图像的显著部分，并在 CIFAR-10 和 ImageNet 数据集上进行了测试，表明其结果优于其他弱监督方法。

    May, 2017

  • 显著图的合理性检查

    本文对几种显著性方法进行实验和理论探索，提出用可行的方法来评估一种方法所能提供和不能提供的解释类型。实验证明，有些现有的显著性方法具有独立性，这些方法不受模型和数据生成过程的影响，因此，那些未通过所提出测试的方法，对于对数据或模型敏感的任务（ 如在数据中找到异常值，解释模型所学到的输入和输出之间的关系以及调试模型）是不适当的。与边缘检测类比，本文发现一些显著性方法无需训练数据或模型就能有效实现其功能。

    Oct, 2018

  • 关于显著图和对抗鲁棒性

    本文提出了一种基于 Saliency map 的对抗训练方法（SAT），通过使用详细的弱显著性图（如边界框和分割掩码）来改进模型的对抗鲁棒性，同时展示了如何进一步提高性能。

    Jun, 2020

  • SMOOT：基于显著性引导的掩模优化在线训练

    通过提出一种基于输入、准确性和模型损失的遮蔽图像数目的最佳确定方法，本文旨在解决遮蔽策略的问题，以提高模型的准确性和突出性，从而证明所提出的解决方案的有效性。

    Oct, 2023

  • 诊断泛化不良时，显著性可能是一个误导

    该论文研究利用辅助标签（即人工绘制的掩模）训练模型以在预测任务中忽略分散注意力的外部特征，以提高模型的泛化性能，同时也探讨了模型泛化性能不佳的根本原因以及采用掩模在 “说明性预测” 任务中的实用性问题。

    Oct, 2019

  • 信息瓶颈方法用于显著区域发现

    本文提出了一种基于信息瓶颈原理的半监督学习方法，用于学习图像注意力掩模。该方法使用标记的图像生成掩模，并最大化被掩蔽图像与图像标签之间的互信息，同时最小化输入和被掩蔽图像之间的互信息，所得到的注意力蒙版为布尔值类型。在 MNIST，CIFAR10 和 SVHN 等数据集上的实验结果表明，我们的方法可以成功地将注意力集中在定义图像类别的特征上。

    Jul, 2019

  • 基于显著性引导训练的深度学习解释性改进

    本文介绍了一种基于显著性引导培训的神经网络方法，可以有效降低噪声导致的特征归因不准确，并通过实验表明这种方法能够在保持预测性能的同时提高模型可解释性。

    Nov, 2021

  • 重新思考解释：深度视觉分类器的输入无关性显著性映射

    本文提出了一种新的输入无关的显著性地图方法，它从计算上估计模型对其输出所归属的高级特征并通过可解释的可视化展示，以更加准确和公正地解释模型的行为，同时在大规模模型中成功应用，并且通过识别受损分类器中的后门签名，展示了这种新形式显著性映射的另一个有趣的用途。

    Mar, 2023

  • 通过规范化显著性图以降低过拟合的 GradMask 算法

    为了解决在医学成像中的过拟合问题，本文提出了一种名为 GradMask 的正则化方法，通过对错误的特征与目标类之间的关联进行惩罚，防止非瘤相关特征对不健康样本的分类产生贡献，并取得了 1-3% 的精度提升。

    Apr, 2019