机器学习中的可解释性问题已经成为一个重要的关注点，本文提出使用模型无关的方法解释机器学习预测，这种方法可以提供选择模型、解释和表示的灵活性，同时改善了调试、比较和用户接口等问题，同时回顾了最近引入的模型无关的解释方法LIME及其面临的主要挑战。
Jun, 2016
本文提出了使用程序作为模型无关解释的方法，通过基于模拟退火的原型程序归纳方法，对黑匣子分类器进行本地行为的近似，生成的解释对于多个分类器具有直观性和准确性。
Nov, 2016
这篇论文提出一种名为模型抽取的方法，通过构建一个可解释程度更高的模型来近似黑箱模型，从而理解和调试机器学习模型在各种数据集上训练的结果，并在经典强化学习问题中学习控制策略。
Jun, 2017
提出了BETA框架，通过透明的逼近来解释任何黑盒分类器的行为，允许用户交互式地探索用户感兴趣的不同子空间中黑盒模型的行为。实验评估表明，与现有基线相比，该方法可以生成高度紧凑，易于理解，但准确的各种预测模型的逼近。
Jul, 2017
本文综述了提高可解释机器学习模型的技术，并讨论了未来研究的关键问题，如设计用户友好的解释和开发全面的评估指标，以进一步推动可解释机器学习的发展。
Jul, 2018
该研究呈现了机器学习的可解释性与PDR框架，探讨了现有解释方法的分类与优劣评估，提供了实际案例并讨论了未来研究方向。
Jan, 2019
ExpO是一种可解释的混合方法，通过训练时对特定正则化器进行操作，改善了基于后处理的解释系统的缺陷，提高了其解释质量和可用性。
Feb, 2019
本文提出了一种新的方法，即在训练时直接对黑盒模型进行可解释性正则化，以改善解释效果，提高模型的可解释性，并保持一定的准确性。
May, 2019
本次综述研究了设计可解释性机器学习模型的问题，分别阐述了可解释性和说明性的概念，并以深度学习模型为例，展示了这两个不同研究方向的最新进展。
Dec, 2020
随机森林模型的解释性是机器学习领域一个日益受关注的研究课题。本文通过对现有方法的全面回顾，通过分类分析提供一种分类方式，以指导用户根据所需可解释性方面选择最合适的工具来解释随机森林模型。
Jul, 2024