黑盒决策系统的本地基于规则的解释

May, 2018

黑盒决策系统的本地基于规则的解释

Local Rule-Based Explanations of Black Box Decision Systems

Riccardo Guidotti, Anna Monreale, Salvatore Ruggieri, Dino Pedreschi, Franco Turini...

TL;DR本文提出了一种名为 LORE 的黑匣子探明方法，能够从逻辑和反事实规则两个层面解释黑匣子机器学习模型的决策原因，从而提高其在社会敏感和安全关键环境中的可用性和透明度。

Abstract

The recent years have witnessed the rise of accurate but obscure decision systems which hide the logic of their internal decision processes to the users. The lack of explanations for the decisions of black box systems is a key ethical issue, and a limitation to the adoption of machine learnin

black box outcome explanation interpretability machine learning decision making ethics

发现论文，激发创造

黑匣子模型的全局局部解释

本研究提出了一种名为 GALE 的机器学习模型，旨在提供有关模型全局决策过程的洞见。结果表明，聚合方法的选择很重要，我们的提出的聚合方法能更好地代表特征如何影响模型的预测，并通过识别区分性特征提供全局洞见。

Jul, 2019

解释黑匣子模型方法综述

本文提供了关于黑盒决策系统和可解释性的分类，以及开放式黑盒模型的方法，帮助研究者找到适合自己工作的提案，并对许多研究开放性问题有所启发。

Feb, 2018

学习分类器系统中的规则发现和全局解决方案组合分离

本文针对数字代理支持关键决策的应用难以获得信任这一难题，提出了基于规则学习的系统并设计透明易懂的模型，其中规则条件和问题解决方案的组成是分开演化的，允许用户特别定制模型以适应可解释性的要求。

Feb, 2022

通过模型提取方法解释黑匣子模型

为了解释黑盒模型，本文提出使用决策树对其进行全局解释，并采用新的决策树提取算法避免过拟合，评估表明该方法正确率更高且可解释性更强。

May, 2017

解释的形状：机器学习中基于规则的解释的拓扑学解释

通过引入一个拓扑框架，本文研究了基于规则的解释方法的解释能力，提出了解释方案的可定义性的概念，并讨论了解释方案的选择如何取决于用户对领域和特征空间概率测度的了解程度。

Jan, 2023

使用可解释模型代替不透明模型进行高风险决策

本文讨论机器学习中的黑盒模型和渴望解释这些模型的方法，强调设计本质可解释模型的必要性以替换高风险决策中的黑盒模型，包括揭示解释黑盒与使用可解释模型之间的差异、阐明避免使用解释型黑盒的原因、提出挑战和解释机器学习的几个应用案例。

Nov, 2018

使用概率对比假设解释黑盒算法

该研究提出一种基于因果关系的方法来解释黑盒决策系统，并使用概率对比反事实证明其有效性，能够为受算法决策影响的个体提供可行的补救措施。该方法不需要了解算法内部结构，能够计算全局、局部和情境层面的有效解释和补救措施。经实验证明，该方法较 XAI 的其他流行算法效果更好。

Mar, 2021

通过有意义的扰动提供黑匣子的可解释性解释

该研究提出了一种适用于任何黑盒机器学习算法的通用解释框架，并将其特化以找到对分类器决策最负责的图像部分。该方法是模型无关且可测试的，因为它基于明确且可解释的图像扰动。

Apr, 2017

强健稳定的黑盒解释

通过敌对训练的方法，我们提出了一个生成稳健且高保真黑盒模型解释的新框架，尝试解决现有算法在受到分布偏移时缺乏稳定性和鲁棒性的问题，本文是首次尝试生成对一类有实际意义的敌对扰动具有鲁棒性的后续解释，实验发现我们的方法显著提高了解释的鲁棒性，而不会在原始数据分布上牺牲解释的保真度。

Nov, 2020

BELLA：基于本地线性近似的黑盒模型解释

该研究介绍了 BELLA，一种模型无关的后置方法，用于解释回归黑盒模型的个体预测，其以特征空间中的线性模型形式提供解释，并最大化线性模型适用的邻域大小，因此其解释准确，简单，一般且稳健。

May, 2023