使用可解释模型代替不透明模型进行高风险决策

NIPSNov, 2018

使用可解释模型代替不透明模型进行高风险决策

Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead

Cynthia Rudin

TL;DR本文讨论机器学习中的黑盒模型和渴望解释这些模型的方法，强调设计本质可解释模型的必要性以替换高风险决策中的黑盒模型，包括揭示解释黑盒与使用可解释模型之间的差异、阐明避免使用解释型黑盒的原因、提出挑战和解释机器学习的几个应用案例。

Abstract

Black box machine learning models are currently being used for high stakes decision-making throughout society, causing problems throughout healthcare, criminal justice, and in other domains. People have hoped that creating methods for explaining these →

black box models interpretable models explainable black boxes high-stakes decisions criminal justice

发现论文，激发创造

将领域知识融入基于 AI 的 “黑箱” 模型，以提高其可解释性并应用于破产预测

本文介绍了一个将领域知识存在一个 “黑匣子” 模型中的方法以提高模型的解释性和可理解性，为银行破产预测等领域带来更好的应用前景。

May, 2019

监督式机器学习可解释性调查

该综述论文提供了解释性监督机器学习的基本定义、原则和方法，并对过去和最近的解释性机器学习方法进行了分类和综述。通过解释性案例研究阐明了原则，并讨论了重要的未来方向。

Nov, 2020

可解释机器学习技术

本文综述了提高可解释机器学习模型的技术，并讨论了未来研究的关键问题，如设计用户友好的解释和开发全面的评估指标，以进一步推动可解释机器学习的发展。

Jul, 2018

解释黑匣子模型方法综述

本文提供了关于黑盒决策系统和可解释性的分类，以及开放式黑盒模型的方法，帮助研究者找到适合自己工作的提案，并对许多研究开放性问题有所启发。

Feb, 2018

机器学习的模型无关可解释性

机器学习中的可解释性问题已经成为一个重要的关注点，本文提出使用模型无关的方法解释机器学习预测，这种方法可以提供选择模型、解释和表示的灵活性，同时改善了调试、比较和用户接口等问题，同时回顾了最近引入的模型无关的解释方法 LIME 及其面临的主要挑战。

Jun, 2016

通过模型提取方法解释黑匣子模型

为了解释黑盒模型，本文提出使用决策树对其进行全局解释，并采用新的决策树提取算法避免过拟合，评估表明该方法正确率更高且可解释性更强。

May, 2017

面向外部利益相关者的机器学习可解释性

本文主要介绍了在高风险背景下机器学习算法变得越来越重要的情况下，为了能够更好地解释机器学习算法，需要考虑相关方利益，例如终端用户，监管机构和领域专家。但是目前较少有关于实现解释性机器学习的工程实践，因此我们进行了一个闭门的研讨会，汇集了学界、产业界、法律界和政策界的专家，分析了当前实现解释性机器学习的现状，分享了大量实例和经验，并探讨了相关未解决的问题。

Jul, 2020

机器学习的因果可解释性：问题、方法和评估

本文综述了因果可解释模型的问题和方法，并深入探讨了用于衡量解释度的评估度量标准，从而帮助实践者了解每种评估度量标准适用于哪些场景。

Mar, 2020

正则化黑盒模型以提高可解释性（HILL 2019 版本）

本文提出了一种新的方法，即在训练时直接对黑盒模型进行可解释性正则化，以改善解释效果，提高模型的可解释性，并保持一定的准确性。

May, 2019

使用机器学习设计可解释决策支持系统是什么？

本文提出增强学习可用于学习不同用户可解释的模型，由此建立他们对机器学习模型的信任。通过与医生交互，基于神经网络模型，设计了一个基于强化学习的临床决策支持系统，结果表明，机器学习专家无法准确预测哪个系统输出将最大化临床医生对底层神经网络模型的信心，这些结果对将来机器学习可解释性研究以及机器学习在医学中的应用都具有广泛的意义。

Nov, 2018