Aug, 2020

评估显著性热点图在医学影像异常定位中的（不）可信性

PDF
TL;DR该研究评估了 8 种常用显著性图技术在医学图像中的实用性和健壮性，发现所有的技术都未能同时满足局部化实用性、模型权重随机化敏感性、重复性和可重复性这四个标准，并建议在高风险的医学图像中使用检测或分割模型来实现局部化。
saliency mapsdeep learningmedical imaginglocalizationtrustworthiness
发现论文，激发创造
  • 显著性指标的合理性检验

    本研究探索了现有的用于评估显著图质量（即 “保真度”）的指标，并发现当前文献中这些指标的计算方式缺乏一致性，且可重复性差，说明用这些指标生成的显著图质量排名可能不可信。

    Nov, 2019

  • 显著图的合理性检查

    本文对几种显著性方法进行实验和理论探索，提出用可行的方法来评估一种方法所能提供和不能提供的解释类型。实验证明，有些现有的显著性方法具有独立性，这些方法不受模型和数据生成过程的影响，因此，那些未通过所提出测试的方法，对于对数据或模型敏感的任务（ 如在数据中找到异常值，解释模型所学到的输入和输出之间的关系以及调试模型）是不适当的。与边缘检测类比，本文发现一些显著性方法无需训练数据或模型就能有效实现其功能。

    Oct, 2018

  • 简化显著性基准测试：分离模型、显著图和度量

    通过贝叶斯决策理论，将视觉显著性模型、显著性地图和评价指标分离，提出了一种基于概率模型的注视密度预测方法，并通过计算这些最优显著性地图来解决了显著性模型评估中不一致的指标问题。

    Apr, 2017

  • 深度学习分类器中的重要性估计器在计算机断层扫描中的评估

    本文研究了几种不同的特征重要性估计方法用于解释卷积深度神经网络对计算机断层扫描（Computed Tomography，CT）图像分类的性能，结论是不同的估计方法对不同准则的性能评估表现不同，同时，专家注释的分割图像与模型到达的预测结果之间存在差异，意识到了解释性差异可以帮助深度学习在医学领域的应用。

    Sep, 2022

  • 基于区域建议的显著性图细化，用于弱监督疾病定位和分类

    本文介绍了一种新的方法，结合区域提议和显著性检测的方法，通过 ChestX-ray14 数据集，证明该模型在弱监督下疾病诊断和定位方面的性能已经成为新的 state-of-the-art。

    May, 2020

  • 用于模型可解释性的基于遮罩的显著性方法研究与简化

    本研究采用掩蔽技术生成显著性地图，发现训练分类器的同时，采用掩蔽技术生成显著性地图具有很高的性能，并且 10 个样本每类也可以显著提高显著性地图的精度。

    Oct, 2020

  • 关于显著图和对抗鲁棒性

    本文提出了一种基于 Saliency map 的对抗训练方法（SAT），通过使用详细的弱显著性图（如边界框和分割掩码）来改进模型的对抗鲁棒性，同时展示了如何进一步提高性能。

    Jun, 2020

  • 利用 “分段任意模型” 评估 GRAD-CAM 在医学成像中的定位

    本文探讨如何利用 Segment Anything Model (SAM) 技术进一步提高医学图像的显著性图测试准确性，同时可以泛化到不需要人类注释的测试方法，并研究 SAM 在医学领域中的应用和挑战，这包括图像预处理，自然语言建议以及 SAM 在多个医学成像数据集上的准确性。

    Jun, 2023

  • 评估用于卷积神经网络的显著性图解释：用户研究

    本文研究使用的 CNN 在一些图像分类问题中表现非常好，但是解释 CNN 的操作是非常困难的。因此，本文提出了一种新型的解释算法，称为 LRP 算法，通过人机交互的方式发现这种算法被用于图像分类问题的特定图像特征敏感性，并针对该方法进行了用户评估。评估结果表明，该算法可以帮助参与者学习一些系统对特定图像特征的敏感性，但是对于新图像的分类任务提供的帮助似乎非常有限。因此，HCI 和人工智能社区需要超越实例级别的解释算法，继续研究解释 AI 的设计和进一步研究的问题。

    Feb, 2020

  • 诊断泛化不良时，显著性可能是一个误导

    该论文研究利用辅助标签（即人工绘制的掩模）训练模型以在预测任务中忽略分散注意力的外部特征，以提高模型的泛化性能，同时也探讨了模型泛化性能不佳的根本原因以及采用掩模在 “说明性预测” 任务中的实用性问题。

    Oct, 2019