- 基于解释的模型指导将图像分类器转化为分割模型
利用解释性 AI 方法，如 Grad-CAM 和 LRP 生成的热图在许多情况下与输入图像的分割相似，因此利用热图可以实现利用图像级监督进行弱监督分割。同时，可以对可微分的热图施加损失，这用于提高热图的人工可解释性、对网络进行正则化以获得更 - 热图的基于部件的定量分析
热力图在解释人工智能（XAI）中起到了重要的作用，这篇论文探讨了提高热力图信息性和可访问性的方法，并提出了开发自动化、可扩展和数值分析方法以使热力图 XAI 更客观、用户友好和成本效益的需求，同时也需要全面的评估指标来评估热力图质量。
- 基于视频的人体姿态回归：通过解耦的时空聚合
通过综合利用视频序列的时间依赖性，我们开发了一种高效且有效的基于视频的人体姿态回归方法，绕过热图等中间表示，直接将输入映射到输出关节坐标。我们的方法利用了相邻关节的空间相关性和每个关节自身的时间相关性，通过提出的关节感知特征令牌机制来灵活地 - 揭示可解释人工智能的自动面部表情识别中的人类相似性：一项经验性探索
深度学习在面部表情识别方面的模型表现超过了人类，本研究通过比较不同神经网络（包括一般物体分类器和面部表情识别专用模型）来探索深度神经网络与人类感知之间的相似性。使用可解释的全局人工智能方法生成热图，揭示出六种面部表情的关键面部区域，通过定量 - WayHome: 动态缩放下的长期运动预测
自主车辆的一个关键挑战是准确预测周围环境中其他物体的运动，本研究开发了一种新颖的自主车辆运动预测方法，使用基于神经网络的模型为自主车辆附近的每个交通参与者预测多个热力图，并对比了不同编码器、解码器和损失函数，并引入了一种新的网格缩放技术，在 - 使用热图字幕和大型语言模型实现深度神经网络自解释性
本论文提出了一个自动、交互式、可扩展且易于访问的框架，包括上下文建模和推理两个模块，提出了一种基于模板的图像标题生成方法，利用大规模语言模型来提供解释，以解决图像热力图的自动化问题。实验证明了该框架和热力图生成方法的有效性。
- AAAI评估可解释人工智能在多模态医学影像任务中的应用：现有算法是否满足临床需求？
本论文针对医学图像 AI 模型预测结果的解释问题，提出了基于不同模态的特征重要性度量方法，对 16 种 heatmap 算法进行评估，结果表明这些算法不能很好地解释多模态医学图像的 AI 模型预测结果，因此需要基于该研究提出的度量方法设计 - 使用深度神经网络分类器对医学图像分割进行偷袭
本研究使用卷积神经网络分类器及热图来解决分割问题，并提出用平均 Dice 系数评估结果的方法。研究显示热图可以定位和分割部分肿瘤区域，但仅使用 CNN 分类器的热图可能并非最佳选项。
- ECINN: 可逆神经网络实现高效反事实生成
本文提出了一种名为 ECINN 的方法，利用可逆神经网络的生成能力为图像分类生成反事实示例并扩展为生成热力图。与竞争方法相比，ECINN 有一个封闭形式表达式且仅需两次评估便能有效地生成反事实示例，实验结果证明了 ECINNh 比已有的基于 - CVPR自知的鉴别反事实解释
该研究提出了一种新的判别性反事实视觉解释方法，通过结合三个归属图来计算反事实图，从而更快地获得表现良好的结果，并通过一套量化指标来评价结果。
- 基于 CLEVR-XAI 的神经网络解释的地面真实性评估
本文提出了一种基于 CLEVR 视觉问题回答任务的基准评估框架，在十种不同的 XAI 方法上进行比较和评估，结果得到了新的关于 XAI 方法质量和属性的深入认识。
- 使用解释方法解决基于深度学习的组织病理学图像分析中的挑战
本文介绍了解释方法在数字病理学中的应用，以生成热图来解决深度学习方法在数字组织病理学分析中遇到的常见问题，包括对组织病理学数据固有的偏见。通过像素级热图的方法，我们能够精确诊断并帮助发现和消除数据中的偏见，证明解释方法是数字病理学应用开发和 - 通过使用集成梯度进行优化来可视化深度网络
本文提出了一种名为 I-GOS 的方法，该方法使用了基于积分梯度的下降方向来优化热图，并能够在任意分辨率下计算不同用户需求的热图，实验证明该方法可更准确地与深度网络的决策相关联。
- 移动设备上手部关键点精准定位
提出了一种从常规彩色输入中定位 2D 手部关键点的新方法，该方法依赖于适当设计的卷积神经网络（CNN）计算一组热图（每个手部关键点一个），并在标准、公开数据集上通过大量实验将其与现有方法进行比较，在精度方面与竞争方法相匹配或优于竞争方法，但 - 糖尿病视网膜病变筛查的深度图像挖掘
本文提出了利用 “热图” 显示出影响影像级别的预测性诊断的像素，同时应用于 90,000 张视网膜照片和 110,000 张照片的数据集中，与其他热图检测算法相比，表现出更好的检测性能。