Apr, 2024

生成可信任的模型无关反事实解释的对抗随机森林

PDF
TL;DR利用对抗式随机森林（ARFs）的生成建模技术，本文以模型独立的方式高效生成可信的反事实解释，克服了现有方法的局限性，包括易于训练、计算高效、自然处理连续和分类数据以及方便集成额外的期望，如稀疏性。
counterfactual explanationsalgorithmic decisionsgenerative modelingadversarial random forests (arfs)plausible counterfactuals
发现论文，激发创造
  • PermuteAttack: 机器学习信用评分卡的反事实说明

    本文提出了一个基于对抗性生成的数据方法的模型评估和解释框架，该方法可用于信贷评分系统中的机器学习算法，该算法应用于表格形式的金融数据，包括离散和分类变量，并使用基于遗传算法的无梯度优化进行优化。

    Aug, 2020

  • 基准测试可解释性人工智能的反事实算法：从白盒到黑盒

    该研究通过在三种不同类型的机器学习模型上进行基准评估来调查机器学习模型对反事实解释生成的影响，发现不同的机器学习模型对反事实解释生成没有影响，强烈建议进行定性分析来确保反事实解释的稳健分析和潜在偏差的识别。

    Mar, 2022

  • 针对反事实解释的条件生成模型

    该论文提出了一种生成利用条件生成模型来生成稀疏的、在分布中反事实模型解释的通用框架，可适用于不同模态的数据，并说明了该方法在图像、时间序列和混合类型表格数据上的有效性。

    Jan, 2021

  • 透过对抗样本镜头探索反事实解释：理论和实证分析

    通过对对抗样本技术和因果解释方法之间的形式化相似性的系统分析，我们提出了关于机器学习模型与因果解释算法之间的理论和经验相似性的研究，这引发了现有因果解释算法设计和开发的基本问题。

    Jun, 2021

  • 基于 Tree 集成的灵活可优化反事实解释解释（FOCUS）

    为了解决机器学习模型的可解释性问题，本研究提出了一种基于梯度优化和概率模型逼近的反事实解释方法，可以适用于不可微模型如树模型，并且该方法得出的反事实案例要优于其他针对树模型的反事实方法。

    Nov, 2019

  • CounteRGAN：使用剩余生成对抗网络生成逼真对抗事实

    使用生成对抗网络（GANs）提出一种称为 CounteRGAN 的方法，以提高虚拟出的因果性的真实性和可操作性，并在实时情况下提高可行性来提供有意义的解释。

    Sep, 2020

  • 针对表格数据的学习模型无关反事实解释

    本文提出了一种新的方法 ——C-CHVAE，该方法可以生成可实现的反事实解释，以更好地满足反事实解释的质量要求。

    Oct, 2019

  • 对策说明的随机优化

    通过提出一种基于随机学习的框架和特征选择模块来平衡反事实解释的权衡，本研究在生成可行的反事实解释方面展现了其有效性，并表明其比基线更加多样化和高效。

    Sep, 2022

  • 生成强健的反事实解释

    本文提出了一种名为 CROCO 的新框架，用于生成具有鲁棒性的反事实解释，并有效地管理反事实输入更改带来的挑战，针对表格数据进行评估，证明了该方法的有效性。

    Apr, 2023

  • 使用多目标优化探索反事实解释中的可信度、变化强度和对抗能力之间的权衡

    使用多目标优化模型，通过生成逆因模型生成可信的对抗实例，以提高深度学习模型的透明度，检测偏见和数据不当的形式。

    May, 2022