Jul, 2024

AI 基于人脸识别系统的全面视觉显著性解释框架的研究

PDF
TL;DR这篇论文提出了一个基于视觉显著性地图的人脸识别解释框架，其中包括定义了解释方法、提出了新的模型 - 不可知解释方法 CorrRISE，并提供了一种新的评估方法来比较不同解释方法的性能。实验证明，CorrRISE 能够生成深入有洞察力的显著性地图，并在相似性地图方面表现出卓越的性能。
发现论文，激发创造
  • 面部识别视觉显著性解释研究

    该论文提出了一种新的人脸识别解释框架，使用基于视觉显著性的解释方法来揭示深度人脸识别模型的决策过程；并提出一种新的相关性算法（CorrRISE）来生成显著性图，可同时揭示任意给定一对人脸图像中的相似和不同区域，并设计了两个评估指标来评估人脸识别中通用视觉显著性解释方法的性能， 实验证明该方法在解释人脸识别方面优于其他方法。

    May, 2023

  • 基于显著性地图的人脸识别解释

    本文研究了人脸识别技术中存在的 “黑匣子” 问题，提出了可解释人脸识别的定义，并引入了基于相似性的 RISE 算法来产生高质量的视觉显著图，进一步提出了评估方法来系统地验证可靠性和准确性。

    Apr, 2023

  • 可解释人脸识别的判别性深度特征可视化

    本文提出了一种基于面部重建和视觉显著性的解释深度人脸识别决策的方法，通过产生表达输入面部相似和不相似区域的视觉显著性图，提供了有洞察力的解释， 在实验证明所提出方法的有效性。

    Jun, 2023

  • 使用与模型无关方法生成详细显著性地图

    本研究关注机器学习模型的解释方法，介绍了一种基于 RISE 的改进方法 VRISE，包括使用凸多边形覆盖替代了方形遮挡，并加入信息保证生成器来提高解释准确性和加速收敛速度。实验证明，使用 VRISE 产生的沙漏图更加精确并且不需要过多的计算开销。

    Sep, 2022

  • 评估用于卷积神经网络的显著性图解释：用户研究

    本文研究使用的 CNN 在一些图像分类问题中表现非常好，但是解释 CNN 的操作是非常困难的。因此，本文提出了一种新型的解释算法，称为 LRP 算法，通过人机交互的方式发现这种算法被用于图像分类问题的特定图像特征敏感性，并针对该方法进行了用户评估。评估结果表明，该算法可以帮助参与者学习一些系统对特定图像特征的敏感性，但是对于新图像的分类任务提供的帮助似乎非常有限。因此，HCI 和人工智能社区需要超越实例级别的解释算法，继续研究解释 AI 的设计和进一步研究的问题。

    Feb, 2020

  • 基于显著性的可解释性方法评估

    本文结合三个人体实验研究基于显著性的可解释性方法对于卷积神经网络的解释效果，并评估其可行性。

    Jun, 2021

  • 一个稳健的指导视觉解释的框架

    提出了使用 RES 框架进行监督解释的方法以提高深度神经网络的外推泛化性和内在的可解释性，该框架可解决标注不准确、区域不完整和分布不一致等挑战，经测试在两种实际图像数据集上均表现较好。

    Jun, 2022

  • 显著性检测方法的通用框架

    本研究提出了一个涵盖五个主要步骤的显著性模型框架，包括预处理，特征提取，显著图生成，显著图组合和后处理，并研究了不同水平的显著性模型，比较其性能，有助于研究人员全面了解研究新方法。

    Dec, 2019

  • 基于显著性模型解释的图形感知

    通过实验设计研究可视化设计决策、对齐类型和显著性地图质量对人类感知显著性视觉解释的影响。

    Jun, 2024

  • 基于特征引导梯度反向传播的可解释人脸验证

    该研究探索人脸图像与其深度表示之间的空间关系，并提出了一种新的解释方法 FGGB，通过梯度反向传播生成准确且深入的相似性和差异性显著性地图，用以解释人脸识别系统的 “接受” 和 “拒绝” 决策。视觉展示和定量测量表明，FGGB 在相似性和差异性显著性地图方面的性能优于当前最先进的可解释人脸验证方法。

    Mar, 2024