May, 2023

面部识别视觉显著性解释研究

PDF
TL;DR该论文提出了一种新的人脸识别解释框架，使用基于视觉显著性的解释方法来揭示深度人脸识别模型的决策过程；并提出一种新的相关性算法（CorrRISE）来生成显著性图，可同时揭示任意给定一对人脸图像中的相似和不同区域，并设计了两个评估指标来评估人脸识别中通用视觉显著性解释方法的性能， 实验证明该方法在解释人脸识别方面优于其他方法。
deep convolutional neural networksface recognitionexplanation frameworksaliency mapscorrrise algorithm
发现论文，激发创造
  • 可解释人脸识别的判别性深度特征可视化

    本文提出了一种基于面部重建和视觉显著性的解释深度人脸识别决策的方法，通过产生表达输入面部相似和不相似区域的视觉显著性图，提供了有洞察力的解释， 在实验证明所提出方法的有效性。

    Jun, 2023

  • 基于显著性地图的人脸识别解释

    本文研究了人脸识别技术中存在的 “黑匣子” 问题，提出了可解释人脸识别的定义，并引入了基于相似性的 RISE 算法来产生高质量的视觉显著图，进一步提出了评估方法来系统地验证可靠性和准确性。

    Apr, 2023

  • 基于特征引导梯度反向传播的可解释人脸验证

    该研究探索人脸图像与其深度表示之间的空间关系，并提出了一种新的解释方法 FGGB，通过梯度反向传播生成准确且深入的相似性和差异性显著性地图，用以解释人脸识别系统的 “接受” 和 “拒绝” 决策。视觉展示和定量测量表明，FGGB 在相似性和差异性显著性地图方面的性能优于当前最先进的可解释人脸验证方法。

    Mar, 2024

  • 使用与模型无关方法生成详细显著性地图

    本研究关注机器学习模型的解释方法，介绍了一种基于 RISE 的改进方法 VRISE，包括使用凸多边形覆盖替代了方形遮挡，并加入信息保证生成器来提高解释准确性和加速收敛速度。实验证明，使用 VRISE 产生的沙漏图更加精确并且不需要过多的计算开销。

    Sep, 2022

  • 评估用于卷积神经网络的显著性图解释：用户研究

    本文研究使用的 CNN 在一些图像分类问题中表现非常好，但是解释 CNN 的操作是非常困难的。因此，本文提出了一种新型的解释算法，称为 LRP 算法，通过人机交互的方式发现这种算法被用于图像分类问题的特定图像特征敏感性，并针对该方法进行了用户评估。评估结果表明，该算法可以帮助参与者学习一些系统对特定图像特征的敏感性，但是对于新图像的分类任务提供的帮助似乎非常有限。因此，HCI 和人工智能社区需要超越实例级别的解释算法，继续研究解释 AI 的设计和进一步研究的问题。

    Feb, 2020

  • 超越显著性：从层级关联传播的显著性预测理解卷积神经网络

    本论文提出了一种新的二步解释方法 —— SR map，可以更好地理解深度卷积神经网络如何识别图像并从所谓的注意区域中学习特征。该方法清楚地表明了哪些关键像素和注意力区域对于深度卷积神经网络理解给定的图像是有贡献的。

    Dec, 2017

  • 基于显著性的可解释性方法评估

    本文结合三个人体实验研究基于显著性的可解释性方法对于卷积神经网络的解释效果，并评估其可行性。

    Jun, 2021

  • 基于显著性模型解释的图形感知

    通过实验设计研究可视化设计决策、对齐类型和显著性地图质量对人类感知显著性视觉解释的影响。

    Jun, 2024

  • 显著图的合理性检查

    本文对几种显著性方法进行实验和理论探索，提出用可行的方法来评估一种方法所能提供和不能提供的解释类型。实验证明，有些现有的显著性方法具有独立性，这些方法不受模型和数据生成过程的影响，因此，那些未通过所提出测试的方法，对于对数据或模型敏感的任务（ 如在数据中找到异常值，解释模型所学到的输入和输出之间的关系以及调试模型）是不适当的。与边缘检测类比，本文发现一些显著性方法无需训练数据或模型就能有效实现其功能。

    Oct, 2018

  • 一个稳健的指导视觉解释的框架

    提出了使用 RES 框架进行监督解释的方法以提高深度神经网络的外推泛化性和内在的可解释性，该框架可解决标注不准确、区域不完整和分布不一致等挑战，经测试在两种实际图像数据集上均表现较好。

    Jun, 2022