May, 2019

通过不同的反事实解释解释机器学习分类器

PDF
TL;DR本文提出了一种基于决定点过程的生成和评估多样性反事实解释的框架，旨在优化反事实行为的可行性和多样性，并提供了可比较的度量标准来评估反事实方法。通过实验，验证了该框架能生成多样性的反事实，并且能有效地近似本地决策边界。
machine learningexplanationscounterfactualsdiversitylocal decision boundaries
发现论文，激发创造
  • 反事实解释的多样性实现：综述和讨论

    本文综述了可解释人工智能（XAI）领域中的对抗事实例，这些例子通过指示对实例进行的修改来解释训练决策模型的预测，以改变其相关预测。同时，本文探讨了可解释人工智能中多元对抗事实例的概念定义，讨论了它们的基本原理以及它们依赖的用户需求的假设，并提出了这方面的进一步研究挑战。

    May, 2023

  • 计算反事实解释的方法 —— 一项调查研究

    机器学习模型日益广泛应用，因此解释其预测和行为变得越来越重要。本文综述了针对多种不同机器学习模型高效计算对抗性解释的模型特定方法，并提出了文献中尚未考虑的模型方法。

    Nov, 2019

  • 利用生成潜空间中的对比可反事实来解释图像分类器

    在不需要重新训练或调整的情况下，使用预训练的生成模型，介绍了生成因果关系和可解释的反事实解释方法，以提供对黑匣子算法的透明性，并获得对面部属性分类器的对比和因果支持和必要分数，从而展示不同属性如何影响分类器输出。

    Jun, 2022

  • 利用基数约束生成反事实解释

    提供关于机器学习算法如何工作和 / 或进行特定预测的解释是改善其可靠性、公平性和鲁棒性的主要工具之一。在解释类型中，反事实是最直观的一种，它是与给定点仅在预测目标和某些特征上不同的示例，它呈现了原始示例中需要改变的特征来翻转该示例的预测。然而，这种反事实可能具有与原始示例不同的许多不同特征，使得其解释困难。在本文中，我们提出明确为反事实生成添加一个基数约束，限制与原始示例不同的特征数量，从而提供更易解释和易理解的反事实。

    Apr, 2024

  • 对策说明的随机优化

    通过提出一种基于随机学习的框架和特征选择模块来平衡反事实解释的权衡，本研究在生成可行的反事实解释方面展现了其有效性，并表明其比基线更加多样化和高效。

    Sep, 2022

  • 机器学习分类器反事实解释中的因果约束保持

    通过使用结构性因果模型，生成可行的对抗样本对于解释人工智能模型在医疗和金融等关键领域的决策是至关重要的。本论文提出了一种生成适用于实际应用中的可行对抗样本的方法，并且通过实验证明了其效果。

    Dec, 2019

  • 机器学习的反事实解释和算法补救措施综述

    本文综述分类了反事实解释的研究，包括如何评估和设计反事实解释算法，探讨了反事实解释在机器学习领域中的研究方向和发现的不足之处。

    Oct, 2020

  • 透过对抗样本镜头探索反事实解释：理论和实证分析

    通过对对抗样本技术和因果解释方法之间的形式化相似性的系统分析，我们提出了关于机器学习模型与因果解释算法之间的理论和经验相似性的研究，这引发了现有因果解释算法设计和开发的基本问题。

    Jun, 2021

  • 基于梯度的可解释的可计数因果解释方法，使用可管理的概率模型

    本文提出用基于概率模型的渐变计算来解决机器学习模型中反事实样例解释的问题，并通过实验证据证明该方法的优越性。

    May, 2022

  • 通过数学优化在基于得分的分类中生成集体反事实解释

    利用数学优化模型，通过集体反事实解释为给定组内各实例提供一个反事实解释，以使扰动实例的总成本在一定约束下最小化，从而检测对整个数据集都至关重要的特征，验证了该方法的实用性。

    Oct, 2023