Apr, 2023

ODAM: 基于梯度的针对实例的视觉解释用于目标检测

PDF
TL;DR本文提出一种名为 ODAM 的可视化解释技术，通过利用检测器目标流入的梯度产生热图，展示每个预测属性对检测器决策的影响，提高了模型的解释能力并进行了相应的实验证明。同时进一步提出了训练方案 Odam-Train 和 Odam-NMS，通过对模型预测信息和解释进行处理，可以提高模型在重复检测物体时的表现。
object detector activation mapsvisualized explanation techniquedetector's decisionodam-trainodam-nms
发现论文，激发创造
  • ODAM: 使用姿态 RGB 视频进行物体检测、关联和映射

    提出一种基于 RGB 视频和图神经网络的 ODAM 系统，用于检测、关联和建立 3D 对象的映射，通过超椭圆体表示物体包围体积，结合多视角几何约束和物体尺度先验，取得了相对于现有 RGB-only 方法的显著提升。

    Aug, 2021

  • ODSmoothGrad: 为物体检测器生成显著图

    本研究提出一种名为 ODSmoothGrad 的工具，可生成用于分类和边界框参数的显著图，并应用 SmoothGrad 算法以提高其可视化效果，应用于一阶段和二阶段目标检测器。

    Apr, 2023

  • G-CAME：面向目标检测器的高斯类激活映射解释器

    本文提出了一种使用高斯激活映射解释器（G-CAME）生成显着性图作为解释目标检测模型的方法，与其他基于区域的方法相比，G-CAME 具有更短的解释时间，并在 MS-COCO2017 数据集上得到了定性和定量的评估。

    Jun, 2023

  • FFAM：用于 3D 检测器解释的特征因子化激活图

    我们提出了一种基于特征因子化激活图（FFAM）的方法，用于生成 3D 探测器的高质量视觉解释，通过非负矩阵分解生成概念激活图，并使用目标对象的特征梯度来改进全局视觉解释，同时引入体素上采样策略来对齐激活图与输入点云的尺度，实验证明 FFAM 可以产生高质量的视觉解释。

    May, 2024

  • 高斯 - 类激活映射解释器在目标检测中的高效简明应用

    为了解决可解释人工智能（XAI）中目标检测模型快速提供合理解释的挑战，我们引入了高斯类激活图解释器（G-CAME）。我们的方法利用所选层的激活图并应用高斯核突出预测目标的关键图像区域，高效生成简明的显著图。与其他基于区域的方法相比，G-CAME 将解释时间显著减少到 0.5 秒，同时不降低解释的质量。我们在 MS-COCO 2017 数据集上使用 Faster-RCNN 和 YOLOX 对 G-CAME 进行评估，结果显示其能够提供高度合理且忠实的解释，尤其在减少对小目标检测的偏见方面表现出色。

    Apr, 2024

  • DAM：3D 全局解释的扩散激活最大化

    提出了一种基于 DDPM 的点云全局可解释性方法 (DAM)，该方法利用了 Point Diffusion Transformer (PDT) 作为一个新颖的点对称模型，通过双分类器指导来生成高质量的全局解释。通过对 DAM 使用的自适应路径梯度积分方法的改进，不仅为点云类别的显著性图提供了全局概览，还揭示了在生成过程中解释的归因如何变化。大量实验证明我们的方法在感知性、代表性和多样性方面优于现有方法，并且在生成时间上有显著减少。

    Jan, 2024

  • 使用 Grad-CAM 进行普适对抗性解释

    本论文提出了一种将 Grad-CAM 从基于实例的解释方法扩展到全局模型行为解释方法的新方法，其中引入了两个新指标来评估模型的泛化能力，利用对原始测试集和敌对测试集样本的 Grad-CAM 生成热图的规范化倒置结构相似性指标（NISSIM）来计算这些指标，该方法能够帮助了解 CNN 模型在图像分析中的异常行为。

    Apr, 2022

  • Grad-CAM：你为什么这样说？

    提出了一种基于 Grad-CAM 的透明度技术，通过可视化重要的输入区域来提高人类对卷积神经网络（CNN）模型的理解，帮助理解包括图像字幕和视觉问答（VQA）模型在内的基于 CNN 的模型，并通过测量它们的分类能力、人类可信度和与遮挡地图的相关性来评估它们的视觉解释。

    Nov, 2016

  • 基于知识聚合和蒸馏的主动目标检测

    提出了一种基于知识集成和知识蒸馏的活动物体检测方法，通过提供关于物体相关的可行交互信息来改善活动物体检测，实现了当前最先进的性能。

    May, 2024

  • 目标检测的多实例主动学习

    本文提出了一种基于多实例学习的主动物体检测方法，使用对抗实例分类器来预测未标记集合的实例不确定性，并通过多实例学习的方法来评估图像不确定性，以减少噪音实例的影响，实验证明该方法在小标记集合上具有显著的优势。

    Apr, 2021