Jul, 2023

SAFE：基于显著性感知的深度神经网络自动驾驶系统反事实解释

PDF
TL;DR这篇论文提出了一种利用显著性地图生成更具信息量的 CF 解释的新方法，以解决当前深层生成 CF 模型中被选择特征导致的反直觉结果的问题。
cf explainerminimum modificationsdeep generative cf modelssaliency mapsinformative cf explanations
发现论文，激发创造
  • SAFE-RL：针对深度强化学习策略的显著性感知因果解释器

    深度强化学习在复杂控制任务中显示出了极大的潜力，然而学习策略的不可解释性限制了其在安全关键应用（如自动驾驶系统）中的应用。为了解决这些问题，本文提出了一种使用显著性地图识别代理过去观测状态序列中影响力最大的输入像素，并将该地图馈送到深度生成模型中的方法，从而实现在显著区域进行约束修改的可信 Counterfactual 示例的生成。通过多个领域的实验结果表明，该方法能够在广泛的环境和深度强化学习代理中生成更加信息丰富和可信的 Counterfactual 示例。

    Apr, 2024

  • 使用策略蒸馏的深度强化学习模型反事实解释框架

    该论文提出一种新颖的反事实解释框架，以解释黑盒 DRL 的决策，并在自动驾驶系统和 Atari Pong 游戏领域进行了多项实验。分析表明，所提出的框架为深层 DRL 的各种决策生成了可行且有意义的解释。

    May, 2023

  • STEEX: 带有语义信息的反事实解释调节器

    本文提出了一种新型的生成式反事实性解释框架，旨在生产可信度高、修改最小、保留结构的高质量图像。同时介绍了 “针对区域的反事实性解释” 概念和相应框架，通过指定图像的语义区域来指导反事实性产生，证明了该框架在高质量人像和复杂场景等数据集上的有效性。

    Nov, 2021

  • OCTET: 基于对象的反事实解释

    本研究提出了一种以物体为中心的框架来生成反事实解释，该方法通过将查询图像编码到潜在空间中，以便在物体级别上进行操作，并且可以适用于驾驶场景的反事实解释基准测试，并且设计并运行了用户研究以衡量反事实解释在理解决策模型方面的有用性。

    Nov, 2022

  • 平滑解释黑匣子 —— 反事实方法

    该研究提出了一种黑盒对抗解释器来解释医学应用中的图像分类模型，并通过对诊断放射学居民进行实验，发现反事实解释是唯一能显着提高用户对分类器决策理解的解释方法。

    Jan, 2021

  • 一种可行的反事实探索框架：融合因果关系、稀疏性和密度

    通过对属性的逻辑因果关系保护，使用黑箱模型作为分类器并利用变分自动编码器生成可行的对抗性示例，本研究在不同基准数据集上实验，成功生成可行且稀疏的对抗性示例，满足所有预定义的因果约束。

    Apr, 2024

  • 基于深度学习的交通预测的对立解释

    通过反事实解释方法增强可解释性和可用性，揭示深度学习模型学习的交通模式，提高交通预测模型的透明性和可理解性。

    May, 2024

  • 机器学习分类器反事实解释中的因果约束保持

    通过使用结构性因果模型，生成可行的对抗样本对于解释人工智能模型在医疗和金融等关键领域的决策是至关重要的。本论文提出了一种生成适用于实际应用中的可行对抗样本的方法，并且通过实验证明了其效果。

    Dec, 2019

  • 水印反事实解释

    提出了一个模型不可知水印框架，用于探测未经授权的模型提取攻击，并保证所嵌入的水印不损害生成的对抗结果解释的质量。

    May, 2024

  • 对策说明的随机优化

    通过提出一种基于随机学习的框架和特征选择模块来平衡反事实解释的权衡，本研究在生成可行的反事实解释方面展现了其有效性，并表明其比基线更加多样化和高效。

    Sep, 2022