CGXplain: 基于规则的深度神经网络解释，使用双线性程序

ICLRApr, 2023

CGXplain: 基于规则的深度神经网络解释，使用双线性程序

CGXplain: Rule-Based Deep Neural Network Explanations Using Dual Linear Programs

Konstantin Hemker, Zohreh Shams, Mateja Jamnik

TL;DR介绍了 CGX（Column Generation eXplainer），一种基于线性规划的分解方法，可以从深度神经网络的隐藏表示中提取规则，优化任意数量的目标，并满足准确复现、稳定性和复杂度降低等特点，提高了可解释性。

Abstract

Rule-based surrogate models are an effective and interpretable way to approximate a Deep Neural Network's (DNN) decision boundaries, allowing humans to easily understand deep learning models. Current state-of-the

surrogate models deep learning cgx decompositional method interpretability

发现论文，激发创造

蒸馏与解释：使用简单的替代模型解释图神经网络

使用知识蒸馏和凸规划等方法，通过计算得出较简单模型的节点预测解释，验证了该简化模型在速度方面（是目前最先进的 GNN 的若干数量级之一）和准确性方面都优于其他模型。

Mar, 2023

深度神经网络的高效分解规则提取

本篇论文提出了一种新的基于多项式时间复杂度的规则提取算法 ECLAIRE，该算法适用于大型 DNN 架构和大型训练数据集，并在乳腺癌预后和粒子探测等任务上表现出超过现有技术的准确性和可理解性。

Nov, 2021

结合概念分析和 ILP 的 DNN 表达式解释

该论文研究了如何利用深度学习神经网络中学习到的内在特征，利用概念分析方法和归纳逻辑编程理论，构建基于符号的模型，实现黑盒机器学习的可解释性，体现其透明度和可靠性的要求。

May, 2021

图卷积网络的可解释性技术

探讨利用基于梯度和分解两种主要技术在一个玩具数据集和化学任务上提高 Graph Networks 决策的可解释性，为未来的开发和真实世界问题的应用奠定了基础。

May, 2019

基于约束逻辑编程的解释式推理

通过基于约束逻辑编程的 REASONX 方法，可以为决策树提供相互关联的、交互式的解释，从而解决当前人工智能解释方法中存在的缺点。

Sep, 2023

通过决策规则进行模型比较的动态可解释性

提出了一种模型无关方法 DeltaXplainer，用于生成基于规则的解释，描述二进制分类器之间的差异，以实现对机器学习模型的理解和选择。通过在合成和真实数据集上进行实验，涵盖不同类型的概念漂移，验证了 DeltaXplainer 的有效性。

Sep, 2023

交互式对比解释 (REASONX)

REASONX 是一种基于约束逻辑编程的解释工具，提供可以增加背景知识的互动对比解释，针对机器学习模型和决策树进行解释，并具有更高的灵活性。

May, 2023

基于图形数据评估和规则推理的深度可解释性学习

提出了一种结合深度学习和基于专家规则解释性的端到端方法，利用图模型和预定义噪声规则建立规则网络，达到处理噪声数据和提高可解释性的效果。在工业生产系统中的实验表明，该方法可以达到非常高的泛化稳定性，比纯规则方法具有更好的拟合能力和更好的可解释性。

Nov, 2022

应用分布鲁棒优化获得可解释的分类模型

通过利用分布鲁棒优化，我们提出了一个新的公式来学习一组规则集的集合，以在保持计算成本低的同时确保良好的泛化性能，并通过构建一个稀疏的规则集合来解决规则集的稀疏性和预测准确性之间的固有权衡。

Nov, 2023

使用线性模型树进行准确而直观的上下文解释

本文在财务领域探讨复杂机器学习模型的解释方法。通过使用生成对抗网络生成合成数据并训练一种新型的分段线性模型，能够提供更好的局部后续模型无关解释，其中包括对单个特征的归因以及对其背景的解释。

Sep, 2020