PiML 是一种 Python 工具箱，支持数据处理、模型训练、模型解释、解释性调试等机器学习流程，并支持可解释模型和模型无关的解释工具，用于确保质量。

May, 2023

机器学习中的可解释性问题已经成为一个重要的关注点，本文提出使用模型无关的方法解释机器学习预测，这种方法可以提供选择模型、解释和表示的灵活性，同时改善了调试、比较和用户接口等问题，同时回顾了最近引入的模型无关的解释方法 LIME 及其面临的主要挑战。

Jun, 2016

本文综述了提高可解释机器学习模型的技术，并讨论了未来研究的关键问题，如设计用户友好的解释和开发全面的评估指标，以进一步推动可解释机器学习的发展。

Jul, 2018

本文旨在提供可解释机器学习的基本原则，解决常见误解，并识别了十个技术挑战领域，包括稀疏逻辑模型、神经网络中的监督和非监督可分离性、增强学习的解释性等。此次调查适用于对可解释机器学习感兴趣的统计学家和计算机科学家。

Mar, 2021

机器学习的可信度与解释性是当前发展的重点，提升可信度的关键在于解释性，我们提出了 SMILE 方法，利用统计距离度量来提高解释性，并适用于各种数据领域。

Nov, 2023

本文提出了一种基于中心极限定理的假设检验框架以确定所需扰动点的数量，从而保障解释稳定性的方法 S-LIME，以解决黑箱模型的可解释性问题。对模拟数据集和实际数据集进行的实验表明了该方法的有效性。

Mar, 2022

本文提出增强学习可用于学习不同用户可解释的模型，由此建立他们对机器学习模型的信任。通过与医生交互，基于神经网络模型，设计了一个基于强化学习的临床决策支持系统，结果表明，机器学习专家无法准确预测哪个系统输出将最大化临床医生对底层神经网络模型的信心，这些结果对将来机器学习可解释性研究以及机器学习在医学中的应用都具有广泛的意义。

Nov, 2018

最近，解释性已经引起了机器学习领域的关注，因为在关键决策或故障排除时至关重要。本文阐述了解释性的关系，即与机器学习中的重要概念（如可解释性，预测性能和机器学习模型）的关系，以澄清对解释性存在的一些误解。

Nov, 2023

机器学习研究领域近年来取得巨大进展，深度学习模型在各种任务上表现出色。然而，这些模型往往在可解释性方面存在不足，因为它们作为不透明的 “黑盒子” 运行，使其决策背后的原理被遮蔽。为了解决这一挑战，我们的研究团队提出了一个创新框架，旨在权衡模型性能和可解释性之间的折衷。我们的方法以对高维数据的模块化操作为核心，可以进行端到端处理同时保持可解释性。通过融合多样化的解释技术和模块化数据处理，我们的框架可以揭示复杂模型的决策过程，而不损害其性能。我们广泛测试了我们的框架，并验证了其在实现计算效率和可解释性之间取得协调平衡方面的卓越成效。我们的方法通过在各个领域的部署中提供前所未有的对复杂模型内部工作原理的洞察，促进信任、透明度和问责制，满足当代机器学习应用的关键需求。

Jan, 2024

本次综述研究了设计可解释性机器学习模型的问题，分别阐述了可解释性和说明性的概念，并以深度学习模型为例，展示了这两个不同研究方向的最新进展。

Dec, 2020