使用答案集编程进行反事实生成
自动决策的机器学习模型在贷款批准、预审保释、招聘等领域越来越普遍,但大多数模型是不透明的,无法揭示决策依据。本文专注于自动生成反事实解释的问题,采用了答案集规划和 s (CASP) 目标导向 ASP 系统。我们展示了如何计算和证明反事实解释,并通过想象多个可能的世界来导航解释间的关系。此外,我们还展示了如何利用我们的算法为无法满足查询的一类答案集程序找到 Craig 插值。
Oct, 2023
自动决策的机器学习模型在贷款批准、预审保释批准和雇佣等重要领域中越来越常见。然而,大多数这些模型都是黑盒子,即无法透露如何做出预测决策的过程。因此,有必要提供解释来满足透明度需求,并使人们了解为何做出某个决策。我们的研究侧重于生成反事实解释的后问题,通过考虑特征之间的因果关系来解决。本文提出了 CFGs 框架,即 CounterFactual Generation with s (CASP),它利用目标导向的 ASP 系统 s (CASP) 从基于规则的机器学习算法生成的模型中自动生成反事实解释。我们使用 FOLD-SE 模型对 CFGs 进行了基准测试,通过一系列干预来计划并实现从初始状态到反事实状态的转换。为了验证我们的提案,我们展示了如何计算和证明反事实解释,通过想象某些或所有事实假设被改变的世界。更重要的是,我们展示了 CFGs 在这些世界之间的导航能力,即从我们的初始状态(获得了不希望的结果)到想象中的目标状态(获得了期望的决策),考虑到特征之间的因果关系。
May, 2024
我们提出了一种称为 Model-based Counterfactual Synthesizer (MCS) 的框架,用于解释机器学习模型,它是一种模型解释的新型方法,基于假设数据集构建计算模型的 “反事实解释”,通过使用 CGAN 生成器和 Umbrella Sampling 技术加强设计的正确性,验证了在多个数据集上的有效性和效率,并与其他替代方案进行了比较。
Jun, 2021
该论文提出了一种生成利用条件生成模型来生成稀疏的、在分布中反事实模型解释的通用框架,可适用于不同模态的数据,并说明了该方法在图像、时间序列和混合类型表格数据上的有效性。
Jan, 2021
在机器学习中,理解分类器推荐或预测背后的推理对用户非常重要。然而,学习的模型通常太复杂,以至于人类难以理解。本文提出了一个通用框架,用于在文本领域生成反事实解释,这个框架是不限于模型、表示和领域的,并且可以随时使用。本文将任务建模为通过替换文本的各个部分来转换初始状态为分类文本的搜索问题,包括独立于领域的运算符,但也可以通过专门的运算符利用领域特定的知识。搜寻算法试图找到距离原始分类对象具有最小的基于单词级别的 Levenshtein 距离的互补类文本。
Nov, 2022
利用 REVISEDplus 数据驱动方法,通过在高密度区域内生成可行且合理的反事实解释,学习过程案例中活动之间的顺序模式,并评估反事实解释的有效性。
Mar, 2024