Oct, 2023

带有 s (CASP) 的反事实解释生成

PDF
TL;DR自动决策的机器学习模型在贷款批准、预审保释、招聘等领域越来越普遍，但大多数模型是不透明的，无法揭示决策依据。本文专注于自动生成反事实解释的问题，采用了答案集规划和 s (CASP) 目标导向 ASP 系统。我们展示了如何计算和证明反事实解释，并通过想象多个可能的世界来导航解释间的关系。此外，我们还展示了如何利用我们的算法为无法满足查询的一类答案集程序找到 Craig 插值。
machine learningtransparencycounterfactual explanationsanswer set programmingjustifications
发现论文，激发创造
  • 使用答案集编程进行反事实生成

    使用基于规则的机器学习算法，自动生成反事实解释以实现透明化和可解释性。

    Feb, 2024

  • CFGs: 基于目标导向 ASP 方法的因果约束的反事实解释

    自动决策的机器学习模型在贷款批准、预审保释批准和雇佣等重要领域中越来越常见。然而，大多数这些模型都是黑盒子，即无法透露如何做出预测决策的过程。因此，有必要提供解释来满足透明度需求，并使人们了解为何做出某个决策。我们的研究侧重于生成反事实解释的后问题，通过考虑特征之间的因果关系来解决。本文提出了 CFGs 框架，即 CounterFactual Generation with s (CASP)，它利用目标导向的 ASP 系统 s (CASP) 从基于规则的机器学习算法生成的模型中自动生成反事实解释。我们使用 FOLD-SE 模型对 CFGs 进行了基准测试，通过一系列干预来计划并实现从初始状态到反事实状态的转换。为了验证我们的提案，我们展示了如何计算和证明反事实解释，通过想象某些或所有事实假设被改变的世界。更重要的是，我们展示了 CFGs 在这些世界之间的导航能力，即从我们的初始状态（获得了不希望的结果）到想象中的目标状态（获得了期望的决策），考虑到特征之间的因果关系。

    May, 2024

  • 目标导向的约束答案集程序设计的证明

    使用基于约束的谓词应答集编程的查询驱动自顶向下执行模型 s (CASP) 生成完整解释树，为 ASP 应答集提供最小化且易于转化为自然语言的解释，显著促进了 ASP 程序理解和操作的可行性。

    Sep, 2020

  • 对策说明的随机优化

    通过提出一种基于随机学习的框架和特征选择模块来平衡反事实解释的权衡，本研究在生成可行的反事实解释方面展现了其有效性，并表明其比基线更加多样化和高效。

    Sep, 2022

  • 有关重大决策的通用反事实解释模型

    该研究提出了一种基于形式验证的算法，使用逻辑公式表示距离函数（目标）和预测模型（约束），解决满足性问题生成最接近的反事实解释，能够生成可行的多样化反事实解释来满足 100% 的覆盖率。

    May, 2019

  • 使用 s (LAW) 进行带有行动裁量的自动法律推理

    自动法律推理在智能合约和自动决策中的应用日益受到关注，然而伦理和法律问题使得自动推理器在人能理解的术语中进行理由指明变得必要。本文提出使用 s (CASP) 来建模不确定性和其他模糊概念，并实现了一个框架来模拟、推理和证实适用法规，并通过翻译和基准测试了一个代表性用例，即 “Comunidad de Madrid” 的学生录取标准。

    Jan, 2024

  • 算法补救：从反事实解释到干预

    本研究旨在基于因果推理，强调针对机器学习的偏见或错误决策，我们应该将注意力从解释数据的方式转向提供介绍、通过最小干预实现推荐的方式，以获得更好的结果。

    Feb, 2020

  • 生成商业流程结果预测的可行和可信的反事实解释

    利用 REVISEDplus 数据驱动方法，通过在高密度区域内生成可行且合理的反事实解释，学习过程案例中活动之间的顺序模式，并评估反事实解释的有效性。

    Mar, 2024

  • 决策、反事实解释与战略行为

    本文旨在在战略环境下寻找最优的政策和对策解释，包括 NP 难的问题，非降性和子模性，用标准贪心算法获得近似保证。最后，我们表明通过将拟阵约束加入问题的制定中，我们可以提高对策解释的最优集合的多样性，并激励整个人口谱上的个体自我改进。

    Feb, 2020

  • 机器学习的反事实解释和算法补救措施综述

    本文综述分类了反事实解释的研究，包括如何评估和设计反事实解释算法，探讨了反事实解释在机器学习领域中的研究方向和发现的不足之处。

    Oct, 2020