线性模型的最优解释

Jul, 2019

Optimal Explanations of Linear Models

Dimitris Bertsimas, Arthur Delarue, Patrick Jaillet, Sebastien Martin

TL;DR提出了一种基于最优化的规则，将线性模型分解为不断增加复杂性的一系列模型，从而为线性模型创建解释，并派生出线性模型的参数化互操作性指标族，研究了解释性和预测准确性之间的权衡。

Abstract

When predictive models are used to support complex and important decisions, the ability to explain a model's reasoning can increase trust, expose hidden biases, and reduce vulnerability to adversarial attacks. However, attempts at interpreting models are often ad hoc and application-sp

predictive models explanation interpretability linear models parametrized family

发现论文，激发创造

可解释性的代价

本文提出一个基于数学框架的方法，构建以逐步可解释的模型。我们演示了应用于实际和合成数据集的实用算法，并定量化了 “可解释性” 的 “价格” 与预测准确性的权衡。

Jul, 2019

模型解释的有趣特性

本文研究了产生于复杂模型后期的线性解释或与上下文解释网络 (CENs) 一起产生的线性解释。研究主要聚焦于线性解释是否一直是始终如一的或容易引导，同时研究在将其整合到预测过程中时，解释是否会影响模型程序的表现。我们的分析揭示了不同方法产生的解释的某些属性，并建议共同预测和解释的学习模型经常具有优势。

Jan, 2018

数学优化中数据驱动的可解释性框架

通过引入解方案的可解释性作为另一个评估标准，我们可以在目标值和可解释性之间找到权衡解决方案，从而提高数学规划在实践中的易用性。

Aug, 2023

使用线性模型树进行准确而直观的上下文解释

本文在财务领域探讨复杂机器学习模型的解释方法。通过使用生成对抗网络生成合成数据并训练一种新型的分段线性模型，能够提供更好的局部后续模型无关解释，其中包括对单个特征的归因以及对其背景的解释。

Sep, 2020

自解释神经网络的稳健可解释性研究

提出了自说明模型的三个特点 —— 显式性，忠诚度和稳定性，旨在落实模型可解释性并实现复杂模型的解释性，通过特定模型的正则化实现忠诚度和稳定性的要求，实验结果表明，该框架为解决模型的复杂性和可解释性困境提供了一个有前途的方向。

Jun, 2018

模型提取实现可解释性

这篇论文提出一种名为模型抽取的方法，通过构建一个可解释程度更高的模型来近似黑箱模型，从而理解和调试机器学习模型在各种数据集上训练的结果，并在经典强化学习问题中学习控制策略。

Jun, 2017

评估解释的统一框架

评估可解释性模型的统一框架是该论文的重点，它介绍了各个研究群体对解释性评估的重叠和语义错位，并提出了解释的可行性和可理解性的评估标准，以及基于可解释神经网络的学习行为预测的案例。

May, 2024

程序作为黑盒解释

本文提出了使用程序作为模型无关解释的方法，通过基于模拟退火的原型程序归纳方法，对黑匣子分类器进行本地行为的近似，生成的解释对于多个分类器具有直观性和准确性。

Nov, 2016

可解释性作为统计推论

通过统计推断方法构建了一种概率模型，通过学习模型参数和使用神经网络选择器来实现解释性预测，并利用新数据集进行了实验验证，证明了使用多重插补提供了更合理的解释。

Dec, 2022

解释性的提高是否等同于最优性的减损？—— 解释对决策的偏见

机器学习算法越来越被用于组织的决策中，特征解释引入因果模型的语义，导致决策者的先验偏见泄漏，并产生确认偏见和决策结果的差异，从而导致次优和有偏的决策结果。

Jun, 2022