Jun, 2024

CoLa-DCE -- 概念引导的潜在扩散对抗性解释

PDF
TL;DR通过 Concept-guided Latent Diffusion Counterfactual Explanations (CoLa-DCE) 方法生成概念导向的反事实解释，提供更高的控制度和更好的可理解性，以及对模型错误的帮助。
generative aidiffusion modelscounterfactual explanationsconcept-guided latent diffusionmodel errors
发现论文，激发创造
  • 潜在扩散对抗解释

    基于潜在扩散模型，引入了潜在扩散反事实解释 (LDCE)，用以快速生成反事实实例，并专注于数据的重要、语义部分；通过新颖的共识引导机制过滤出与扩散模型的隐式分类器不一致的嘈杂、对抗性梯度，展示了 LDCE 在各种学习范式下的多样性和黑盒模型行为的理解。

    Oct, 2023

  • 反事实解释的扩散模型

    本论文提出 DiME 方法，在使用最近传播模型的同时利用引导生成扩散过程，充分利用目标分类器的梯度生成输入实例的反事实解释，进一步通过提出一个新的度量标准 —— 相关差异，分析了目前评估虚假相关性的方法，并进行实验验证，结果表明该算法在 CelebA 上优于之前的最新研究成果。

    Mar, 2022

  • 扩散视觉对抗解释

    本文中，我们通过扩散过程生成任意 ImageNet 分类器的 DVCE，其关键在于自适应参数化以及锥形正则化，从而使得扩散过程不会收敛到微小的非语义变化，而是产生目标类的逼真图像并获得高分类置信度。

    Oct, 2022

  • 使用潜在扩散模型生成反事实轨迹进行概念发现

    本研究介绍了一种用于发现概念的新颖框架 CDCT，通过潜在扩散的对偶轨迹，在黑盒模型中发现决策相关的概念，从而在各领域应用可靠的人工智能和进一步发展人类知识方面迈出了一步。

    Apr, 2024

  • 利用生成潜空间中的对比可反事实来解释图像分类器

    在不需要重新训练或调整的情况下，使用预训练的生成模型，介绍了生成因果关系和可解释的反事实解释方法，以提供对黑匣子算法的透明性，并获得对面部属性分类器的对比和因果支持和必要分数，从而展示不同属性如何影响分类器输出。

    Jun, 2022

  • 可解释的图像分类技术：基于证据的反事实推理

    本文提出了 SED 为基于模型的实例级解释方法，以获得视觉反事实解释来解释图像分类结果，同时提出了 SED-T 作为可以指定反事实目标类别的替代方法，并与 LRP、LIME 和 SHAP 等流行的特征重要性方法进行了比较，展示了 SED (T) 的潜力，用于获得信任和洞察，并通过解释误分类情况来为模型改进提供输入。

    Apr, 2020

  • 使用概念性反事实解释有意义地调试模型错误

    本研究提出了一种系统化方法 —— 概念反事实解释（CCE），旨在利用人类理解的概念（例如，由于条纹不清晰，这只斑马被错误地分类为狗）解释分类器在特定测试样本上出错的原因，并在多个已知的预置模型上验证了 CCE 的有效性及其对于缓解偏差的作用，同时也确认了 CCE 可以对带有噪声偏旁相同的数据进行准确分析。

    Jun, 2021

  • 通过潜在空间的解缠释义实现回归

    本文提出了一种新的方法，通过首先将潜空间中的标签无关特征与预定义的输出相结合，以为预先训练的回归器生成对立解释。通过在潜空间中搜索，我们展示了该方法在回归问题设置下重要高维机器学习应用中具有竞争力。

    Nov, 2023

  • 高斯混合分布潜在空间中的反事实解释搜索

    通过改进自动编码器的潜空间生成方法，该论文介绍了一种新的生成反事实解释的方法，该方法在保持输入样本特征的同时能有效地返回更接近原始数据的结果，适用于高维机器学习应用。

    Jul, 2023

  • 用扩散距离和方向连贯性增强反事实解释搜索

    提出并测试了两种新的偏差，以增强对有效逆因对照解释的搜寻，方法为应用扩散距离和引入定向一致性项；通过在合成和实际数据集上进行一系列消融实验，证明了该方法的有效性。

    Apr, 2024