Jun, 2023

解释目标检测器的显著性方法的合理性检查

PDF
TL;DR通过对 Saliency methods 在各种目标检测模型中的应用，以及 Guided Backpropagation、Integrated Gradients，以及它们的 Smoothgrad 版本等 saliency 方法的新定性标准的定义，发现 EfficientDet-D0 是最直观的方法，独立于 saliency 方法，通过测试无障碍解释模型。
saliency methodsdeep neural networkexplanation methodsobject detectionefficientdet-d0
发现论文，激发创造
  • 显著图的合理性检查

    本文对几种显著性方法进行实验和理论探索，提出用可行的方法来评估一种方法所能提供和不能提供的解释类型。实验证明，有些现有的显著性方法具有独立性，这些方法不受模型和数据生成过程的影响，因此，那些未通过所提出测试的方法，对于对数据或模型敏感的任务（ 如在数据中找到异常值，解释模型所学到的输入和输出之间的关系以及调试模型）是不适当的。与边缘检测类比，本文发现一些显著性方法无需训练数据或模型就能有效实现其功能。

    Oct, 2018

  • 评估基于显著性的解释方法的整体敏感性

    为了解决生成 “黑盒” 深度学习模型准确解释的需要，本论文提出了一种基于模型不可知的、敏感性敏感度和信任度为核心的评估方法。该方法通过对多种卷积神经网络解释方法进行比较来验证其可行性，并探讨了敏感性与信任度的关系及该方法在其他领域的应用

    Jun, 2023

  • 基于显著性的可解释性方法评估

    本文结合三个人体实验研究基于显著性的可解释性方法对于卷积神经网络的解释效果，并评估其可行性。

    Jun, 2021

  • ODSmoothGrad: 为物体检测器生成显著图

    本研究提出一种名为 ODSmoothGrad 的工具，可生成用于分类和边界框参数的显著图，并应用 SmoothGrad 算法以提高其可视化效果，应用于一阶段和二阶段目标检测器。

    Apr, 2023

  • 关于视觉解释的定量评估的一致性

    研究神经网络的预测可视化解释，并评价这些解释的好坏。其中，绝大多数评价方法使用 ImageNet-1k 和人工检测评估结果，结果表明评价方法之间缺乏一致性。同时，解释的稀疏性对评价方法的表现具有显著影响。

    Feb, 2023

  • 利用显著图解释物体检测器的黑箱模型

    提出 D-RISE 方法，生成针对目标检测器预测的视觉解释。D-RISE 可以被视为黑盒测试，不需要了解模型的内部工作原理，可以轻松应用于不同的目标检测器类型，并通过对生成的视觉解释进行详细分析，突出了上下文的利用和目标检测器学习的可能偏见。

    Jun, 2020

  • 目标检测更好的解释方法

    本文提出了一种名为 D-CLOSE 的方法，用于解释任何目标检测模型的决策，并利用图像上的多层分割和结合过程来跟踪模型的行为。在 MS-COCO 数据集中使用 YOLOX 模型进行测试，表明我们的方法优于 D-RISE，可以提供更好的质量和更少的噪音解释。

    Jun, 2023

  • SE3D：三维成像中显著性方法评估的框架

    提出了 SE3D：一个用于评估三维图像显著性方法的框架，通过修改数据集和评估指标来评估适用于三维卷积神经网络的显著性方法，结果表明当前的三维显著性方法质量不够，对于未来改进和在关键领域中更安全地应用三维卷积神经网络提供了潜在空间。

    May, 2024

  • 图像解释的分类评估指标：构建可靠的可解释性人工智能评估

    计算机视觉模型的决策过程（尤其是深度神经网络）的不透明性意味着这些决策无法被人类理解。因此，在过去几年中，已经提出了许多提供人理解解释的方法。本文针对图像分类开发了新的评估指标，并对常见的显著性方法在 ImageNet 上进行了基准测试。此外，还提出了一种基于心理测评概念的可靠性评估方案。

    Jun, 2024

  • 基于显著性训练提高深度神经网络在图像分类中的鲁棒性？

    本文研究深度神经网络的鲁棒性问题，特别关注对抗样本的攻击。通过在线显著特征训练，得到视觉可解释性的特征，但实验结果显示，这些特征并不能提升模型对抗样本攻击的性能。

    Jun, 2023