KDDNov, 2019

GRACE: 生成简洁明了的对比样本以解释神经网络模型的预测

PDF
TL;DR提出了一种名为 GRACE 的新的解释深度学习模型在表格数据方面的预测的方法，它基于干预与对比这两个思想，并生成易于理解的文本解释，相较于竞争基线方式，其生成的解释直观易懂且提高了用户决策准确性达 60%。
explainable ai/mlneural network modelstabular datasetscontrastive samplegrace
发现论文，激发创造
  • SimGRACE: 一种简单的无数据增强图对比学习框架

    提出了一种不需要数据增强的简单的图对比学习框架 SimGRACE，利用编码器扰动而不需要手动实验或昂贵的领域知识。此外，通过敌对训练 AT-SimGRACE，可以提高学习的鲁棒性并在一定程度上保持高效。

    Feb, 2022

  • 使用基于流的解释方法揭示 GNNs 模型的洞见

    本研究提出了一种叫做 XInsight 的解释性算法来生成图神经网络的模型解释，以便在高风险应用中（例如药物发现）识别错误并发现新知识。通过对 MUTAG 数据集和一个合成数据集进行实验，证明了 XInsight 的实用性，并且 XInsight 能够生成一组多样化的解释，这有助于发现模型中的隐藏关系并提供有价值的进一步分析指导。

    Jun, 2023

  • ALICE: 用对比自然语言解释的主动学习

    提出了一种专家循环训练框架 ALICE，它利用对比的自然语言解释来提高学习的数据效率，通过提取和动态更改学习模型的结构来应用于鸟类物种分类和社会关系分类两个视觉识别任务中，验证结果表明，相较于使用 40-100% 更多的训练数据的基线模型，应用对比解释后的模型效果更加出色，而添加一个解释获得的性能增益与添加 13-30 个标记训练数据点的性能增益相当。

    Sep, 2020

  • 对比图神经网络解释

    本文提出了一种基于 Distribution Compliant Explanation（DCE）的 Contrastive GNN Explanation（CoGE）技术，该技术适用于 Graph Neural Networks，并且可以提供更精确的模型解释。

    Oct, 2020

  • 对大型语言模型的对比解释方法

    通过黑盒 / 查询访问，我们提出了两种对比解释方法：一种是效率较高但需要多次模型调用的近视算法，另一种是主要算法贡献的预算算法。我们展示了这些方法在不同自然语言任务中的有效性，例如开放文本生成、自动红队战术和解释对话衰退。

    Jun, 2024

  • CLIMAX：分类器基于对比解释的探索

    本文提出了一种名为 CLIMAX 的后操作模型无关 XAI 技术，它提供了对黑盒分类器分类的对比解释以及为什么其他类别未被预测的理由。

    Jul, 2023

  • 结构化数据的模型无关对比解释

    提出了一种模型无关对比解释方法（MACEM），旨在对任何分类模型生成对比解释，该方法处理实际和分类特征，提出了计算相应正例和反例的新方法，并通过 5 个公共数据集的定量和定性验证来证明该方法的有效性。

    May, 2019

  • 利用对比解释解读语言模型

    该研究关注对语言模型的对比解释，证明对比解释在验证大型语法现象和改善对相互模拟性上是可量化地更好的，并且可以表征模型在各种语言生成决策中使用的输入令牌。

    Feb, 2022

  • 适应变化：动态数据环境中的稳健反事实解释

    DyGRACE 是一种新颖的半监督图对因解释器方法，利用关于数据分布的初始知识在避免使用可能过时的决策函数的信息的情况下搜索有效的反事实，它通过两个图自编码器（GAEs）学习二元分类场景中每个类的表示，其方法独立于基础的黑盒预测模型，并且具有对比学习和漂移检测的能力，为半监督学习和解释生成开辟了新的途径。

    Aug, 2023

  • 模型可解释性的对照解释

    该研究提出了一种利用潜空间对分类模型进行对比解释的方法，可以对输入的文本进行高、低级别的概念和属性归纳分析，以实现更准确、细粒度的模型可解释性。

    Mar, 2021