KDDJun, 2021

基于模型的反事实综合器用于解释

PDF
TL;DR我们提出了一种称为 Model-based Counterfactual Synthesizer (MCS) 的框架，用于解释机器学习模型，它是一种模型解释的新型方法，基于假设数据集构建计算模型的 “反事实解释”，通过使用 CGAN 生成器和 Umbrella Sampling 技术加强设计的正确性，验证了在多个数据集上的有效性和效率，并与其他替代方案进行了比较。
counterfactualsmodel-based counterfactual synthesizermachine learningcausal dependenceumbrella sampling
发现论文，激发创造
  • 针对反事实解释的条件生成模型

    该论文提出了一种生成利用条件生成模型来生成稀疏的、在分布中反事实模型解释的通用框架，可适用于不同模态的数据，并说明了该方法在图像、时间序列和混合类型表格数据上的有效性。

    Jan, 2021

  • 符号化方法用于反事实解释

    本文提出了一种基于符号化方法的反事实解释方法，该方法可以根据分类器预测中的哪些特征需要改变来为模型提供反事实解释。该方法利用已有的知识库修复解决方案生成最小纠正子集（MCS），并且在贝叶斯分类器上的初步实验研究显示了其巨大潜力。

    Jun, 2022

  • 使用答案集编程进行反事实生成

    使用基于规则的机器学习算法，自动生成反事实解释以实现透明化和可解释性。

    Feb, 2024

  • 借助因果推理增强语言理解

    本研究提出了反事实推理模型，在学习少量反事实样本的基础上，通过生成对于每个正面事实样本的代表性反事实样本，并使用回顾模块根据对比反事实和正事实样本来检查模型预测，从而模拟对于困难测试样本的人类反事实思维。该方法在情感分析和自然语言推理方面的广泛实验验证了其有效性。

    Jun, 2021

  • 明智选择数据：用于语义逆因果框架的方案

    本文提出一个利用知识图谱提供反事实解释的框架，并给出了一种计算该解释的算法，并 quantitatively 评估了该框架与用户研究。

    May, 2023

  • 机器学习分类器反事实解释中的因果约束保持

    通过使用结构性因果模型，生成可行的对抗样本对于解释人工智能模型在医疗和金融等关键领域的决策是至关重要的。本论文提出了一种生成适用于实际应用中的可行对抗样本的方法，并且通过实验证明了其效果。

    Dec, 2019

  • 对策说明的随机优化

    通过提出一种基于随机学习的框架和特征选择模块来平衡反事实解释的权衡，本研究在生成可行的反事实解释方面展现了其有效性，并表明其比基线更加多样化和高效。

    Sep, 2022

  • 利用生成潜空间中的对比可反事实来解释图像分类器

    在不需要重新训练或调整的情况下，使用预训练的生成模型，介绍了生成因果关系和可解释的反事实解释方法，以提供对黑匣子算法的透明性，并获得对面部属性分类器的对比和因果支持和必要分数，从而展示不同属性如何影响分类器输出。

    Jun, 2022

  • CounteRGAN：使用剩余生成对抗网络生成逼真对抗事实

    使用生成对抗网络（GANs）提出一种称为 CounteRGAN 的方法，以提高虚拟出的因果性的真实性和可操作性，并在实时情况下提高可行性来提供有意义的解释。

    Sep, 2020

  • 计算反事实解释的方法 —— 一项调查研究

    机器学习模型日益广泛应用，因此解释其预测和行为变得越来越重要。本文综述了针对多种不同机器学习模型高效计算对抗性解释的模型特定方法，并提出了文献中尚未考虑的模型方法。

    Nov, 2019