Jun, 2022

符号化方法用于反事实解释

PDF
TL;DR本文提出了一种基于符号化方法的反事实解释方法，该方法可以根据分类器预测中的哪些特征需要改变来为模型提供反事实解释。该方法利用已有的知识库修复解决方案生成最小纠正子集（MCS），并且在贝叶斯分类器上的初步实验研究显示了其巨大潜力。
发现论文，激发创造
  • 明智选择数据：用于语义逆因果框架的方案

    本文提出一个利用知识图谱提供反事实解释的框架，并给出了一种计算该解释的算法，并 quantitatively 评估了该框架与用户研究。

    May, 2023

  • 基于模型的反事实综合器用于解释

    我们提出了一种称为 Model-based Counterfactual Synthesizer (MCS) 的框架，用于解释机器学习模型，它是一种模型解释的新型方法，基于假设数据集构建计算模型的 “反事实解释”，通过使用 CGAN 生成器和 Umbrella Sampling 技术加强设计的正确性，验证了在多个数据集上的有效性和效率，并与其他替代方案进行了比较。

    Jun, 2021

  • 通过数学优化在基于得分的分类中生成集体反事实解释

    利用数学优化模型，通过集体反事实解释为给定组内各实例提供一个反事实解释，以使扰动实例的总成本在一定约束下最小化，从而检测对整个数据集都至关重要的特征，验证了该方法的实用性。

    Oct, 2023

  • 利用基数约束生成反事实解释

    提供关于机器学习算法如何工作和 / 或进行特定预测的解释是改善其可靠性、公平性和鲁棒性的主要工具之一。在解释类型中，反事实是最直观的一种，它是与给定点仅在预测目标和某些特征上不同的示例，它呈现了原始示例中需要改变的特征来翻转该示例的预测。然而，这种反事实可能具有与原始示例不同的许多不同特征，使得其解释困难。在本文中，我们提出明确为反事实生成添加一个基数约束，限制与原始示例不同的特征数量，从而提供更易解释和易理解的反事实。

    Apr, 2024

  • 多目标反事实解释

    该研究提出了一种多目标反事实解释方法（MOC），将反事实搜索转化为多目标优化问题，通过对特征空间的多样性维护，返回一组不同权衡的反事实，并在实际案例中展示了 MOC 的有用性和与现有方法的对比。

    Apr, 2020

  • 用反事实表示解释文本分类器

    通过在文本表示空间进行干预的简单方法生成对抗事实，以用于分类器解释和偏见缓解。

    Feb, 2024

  • 由一组解释器产生的反事实集合中选择解释的多标准方法

    基于多标准分析的多阶段集成方法能够从 Pareto 前沿中选择一个用于解释机器学习模型预测的可行对策。实验结果表明，该方法能够生成具有吸引力的多种质量度量的可操作对策。

    Mar, 2024

  • 半监督反事实解释

    通过引入自编码器重建损失，将分类器输出结果与自编码器的潜空间相连接，从而提高干预解释搜索过程的速度和解释干预结果的可解释性，尤其在自编码器以半监督方式训练的情况下进一步提高了其解释性。在多个数据集上的实验验证了该方法的有效性。

    Mar, 2023

  • 基于模型无关的 SAT 方法的符号解释枚举

    文章提出一种基于模型不可知和 SAT 的方法生成符号解释，实验结果表明该方法可以提供充分原因和反事实解释。

    Jun, 2022

  • 计算反事实解释的方法 —— 一项调查研究

    机器学习模型日益广泛应用，因此解释其预测和行为变得越来越重要。本文综述了针对多种不同机器学习模型高效计算对抗性解释的模型特定方法，并提出了文献中尚未考虑的模型方法。

    Nov, 2019