Sep, 2022

深度学习分类器中的重要性估计器在计算机断层扫描中的评估

PDF
TL;DR本文研究了几种不同的特征重要性估计方法用于解释卷积深度神经网络对计算机断层扫描（Computed Tomography，CT）图像分类的性能，结论是不同的估计方法对不同准则的性能评估表现不同，同时，专家注释的分割图像与模型到达的预测结果之间存在差异，意识到了解释性差异可以帮助深度学习在医学领域的应用。
发现论文，激发创造
  • 评估显著性热点图在医学影像异常定位中的（不）可信性

    该研究评估了 8 种常用显著性图技术在医学图像中的实用性和健壮性，发现所有的技术都未能同时满足局部化实用性、模型权重随机化敏感性、重复性和可重复性这四个标准，并建议在高风险的医学图像中使用检测或分割模型来实现局部化。

    Aug, 2020

  • 深度神经网络可解释性方法评估基准

    本文提出了一种衡量深度神经网络特征重要性估计的近似准确性的经验方法，研究发现，在许多流行的可解释性方法中，只有某些集成方法，如 VarGrad 和 SmoothGrad-Squared，才能胜任随机指定特征重要性的任务。

    Jun, 2018

  • 图像解释的分类评估指标：构建可靠的可解释性人工智能评估

    计算机视觉模型的决策过程（尤其是深度神经网络）的不透明性意味着这些决策无法被人类理解。因此，在过去几年中，已经提出了许多提供人理解解释的方法。本文针对图像分类开发了新的评估指标，并对常见的显著性方法在 ImageNet 上进行了基准测试。此外，还提出了一种基于心理测评概念的可靠性评估方案。

    Jun, 2024

  • 在 CT 扫描中获得的深度学习分类结果是否公平和可解释？

    深度学习在生物医学图像处理中的应用对各种自动诊断案例产生了巨大的影响，然而，大多数基于深度学习的分类尝试主要关注极高的准确率，而忽视了可解释性和训练测试数据的患者级分离。

    Sep, 2023

  • 显著性指标的合理性检验

    本研究探索了现有的用于评估显著图质量（即 “保真度”）的指标，并发现当前文献中这些指标的计算方式缺乏一致性，且可重复性差，说明用这些指标生成的显著图质量排名可能不可信。

    Nov, 2019

  • 在时间序列预测中进行深度学习可解释性基准测试

    本篇论文研究了基于 saliency 的可解释性方法在时间序列数据上的应用，提出并比较了多种 saliency 方法在不同神经网络结构上的性能，并提出多种指标进行评估，发现常规的网络结构和 saliency 方法难以可靠和精确地识别时间序列数据中特征的重要性，这主要是由于时间和特征领域的混淆所导致的，但使用文中提出的两步形式的时间 saliency rescaling 方法可以显著提高 saliency 图的质量。

    Oct, 2020

  • 评估隐式可解释性的后解释性

    本文对基于切片图像的乳腺癌转移检测问题，将时下最流行的用于深度神经网络（DNN）可解释性的后置解释方法（Post-hoc）和内置解释方法（Intrinsic）应用于一种新的可解释性 DNN，ProtoPNet，并比较了这两种方法的兴趣图像（Attribution maps）的相似性。结果显示，除 SmoothGrad 和 Occlusion 以外，其他后置方法兴趣图像的重合度很低。

    May, 2023

  • 评估深度神经网络学习的可视化

    本文提出了一种可视化深度神经网络分类决策的方法，使用基于区域扰动的方法评估热图，并比较了三种不同方法计算的热图对网络分类决策的解释力，结果发现基于层级相关传播方法对解释分类决策的效果更好。同时，本文还探讨了利用热图进行神经网络性能无监督评估的方法。

    Sep, 2015

  • 平滑深度显著性

    通过减少来自卷积下采样的噪声，我们探讨了解释深度学习模型如何检测扫描的组织标本中的肿瘤的方法，这些方法使得梯度基于隐藏层计算的显著性图更具解释性。我们在 ImageNet1K 上训练的不同模型以及在 Camelyon16 和实际数字病理学染色组织样本的肿瘤检测训练模型上测试了我们的方法。结果表明，梯度中的棋盘噪声得到了减少，从而产生更平滑且更易于解释的显著性图。

    Apr, 2024

  • 分割质量实时预测

    通过深度学习模型建立 DSC （Dice Similarity Coefficients） 预测模型，用于评估心血管 MR 图像的分割质量；同时提出一种无标记数据的反向测试策略，预测 DSC 并进行二元分类判别心血管 MR 图像分割的质量，实现实时分割方法的筛选为可分析图像，最大限度提高图像分析结果的优化。

    Jun, 2018