Aug, 2020

PermuteAttack: 机器学习信用评分卡的反事实说明

PDF
TL;DR本文提出了一个基于对抗性生成的数据方法的模型评估和解释框架，该方法可用于信贷评分系统中的机器学习算法，该算法应用于表格形式的金融数据，包括离散和分类变量，并使用基于遗传算法的无梯度优化进行优化。
machine learningcredit scoringadversarial perturbationsmodel criticismtabular data
发现论文，激发创造
  • 透过对抗样本镜头探索反事实解释：理论和实证分析

    通过对对抗样本技术和因果解释方法之间的形式化相似性的系统分析，我们提出了关于机器学习模型与因果解释算法之间的理论和经验相似性的研究，这引发了现有因果解释算法设计和开发的基本问题。

    Jun, 2021

  • 针对表格数据的学习模型无关反事实解释

    本文提出了一种新的方法 ——C-CHVAE，该方法可以生成可实现的反事实解释，以更好地满足反事实解释的质量要求。

    Oct, 2019

  • 生成可信任的模型无关反事实解释的对抗随机森林

    利用对抗式随机森林（ARFs）的生成建模技术，本文以模型独立的方式高效生成可信的反事实解释，克服了现有方法的局限性，包括易于训练、计算高效、自然处理连续和分类数据以及方便集成额外的期望，如稀疏性。

    Apr, 2024

  • 机器学习的反事实解释和算法补救措施综述

    本文综述分类了反事实解释的研究，包括如何评估和设计反事实解释算法，探讨了反事实解释在机器学习领域中的研究方向和发现的不足之处。

    Oct, 2020

  • 计算反事实解释的方法 —— 一项调查研究

    机器学习模型日益广泛应用，因此解释其预测和行为变得越来越重要。本文综述了针对多种不同机器学习模型高效计算对抗性解释的模型特定方法，并提出了文献中尚未考虑的模型方法。

    Nov, 2019

  • 利用因果发现对黑盒机器学习模型进行反事实解释，并应用于信用评级

    该研究提出了一种新的可解释人工智能框架，利用反事实概率和关于因果结构的先验信息，以实现通过因果发现方法和黑盒分类模型来估计因果图并估计解释得分，从而更准确地解释模型的内部机制。通过人工数据的数值实验和信贷评级的实际数据应用，证明了该方法在因果图未知的情况下的有效性。

    Feb, 2024

  • 机器学习分类器反事实解释中的因果约束保持

    通过使用结构性因果模型，生成可行的对抗样本对于解释人工智能模型在医疗和金融等关键领域的决策是至关重要的。本论文提出了一种生成适用于实际应用中的可行对抗样本的方法，并且通过实验证明了其效果。

    Dec, 2019

  • 使用多目标优化探索反事实解释中的可信度、变化强度和对抗能力之间的权衡

    使用多目标优化模型，通过生成逆因模型生成可信的对抗实例，以提高深度学习模型的透明度，检测偏见和数据不当的形式。

    May, 2022

  • 可解释的信贷申请预测与反事实解释

    使用黑盒子分类器预测信用申请，使用反事实解释单个预测。 通过 HELOC 贷款应用数据集的实验表明，我们的贡献优于基线对策生成策略，导致更小更易于解释的反事实。

    Nov, 2018

  • 对策说明的随机优化

    通过提出一种基于随机学习的框架和特征选择模块来平衡反事实解释的权衡，本研究在生成可行的反事实解释方面展现了其有效性，并表明其比基线更加多样化和高效。

    Sep, 2022