May, 2023

用于可解释机器学习模型开发和验证的 PiML 工具箱

PDF
TL;DRPiML 是一种 Python 工具箱，支持数据处理、模型训练、模型解释、解释性调试等机器学习流程，并支持可解释模型和模型无关的解释工具，用于确保质量。
interpretable machine learningpython toolboxmodel diagnosticsmodel interpretationexplainability
发现论文，激发创造
  • InterpretML: 机器学习可解释性的统一框架

    InterpetML 是一个开源的 Python 包，可以帮助实践者和研究人员暴露机器学习算法并提供解释能力。该软件包在统一 API 下公开多种方法，并具有内置的、可扩展的可视化平台，同时还包括可与许多黑盒模型一样准确的可解释的强大的 glassbox 模型 EBM 等工具。

    Sep, 2019

  • 黑匣子 NLP 模型的解释：一项调查

    本文提出了一种基于中心极限定理的假设检验框架以确定所需扰动点的数量，从而保障解释稳定性的方法 S-LIME，以解决黑箱模型的可解释性问题。对模拟数据集和实际数据集进行的实验表明了该方法的有效性。

    Mar, 2022

  • 机器学习模型的本地可解释模型无关 Shap 解释

    提出了一种称为 LIMASE 的局部可解释模型无关 Shap 说明法，该方法使用 Shapley 值来解释任何模型的预测，提供局部和全局可解释的解释，解决子模块优化问题，为地区解释带来见解，并在与内核解释器相比计算更快。

    Oct, 2022

  • OptiLIME: 优化的 LIME 算法解释 —— 针对诊断计算算法

    本文介绍了一种用于解释任何类型的机器学习模型的流行方法：局部可解释的模型无关解释（LIME）。该方法通过学习围绕预测的简单线性模型来解释一个预测，但其主要缺点是不稳定性。论文提出了一个称为 OptiLIME 的框架，以最大化稳定性，同时保留预定义水平的粘附性，并且对所得到的解释的数学属性进行了明确的突出显示。

    Jun, 2020

  • 超越 LIME 的替代预测解释

    本文提出一种算法框架 bLIMEy，用于构建定制的本地替代解释器，其中包括 LIME，该框架独立且可互操作，并讨论了组件选择对结果解释器功能能力的影响。

    Oct, 2019

  • S-LIME: 模型解释的稳定化 LIME

    研究黑盒机器学习模型的解释方法，提出一种基于中心极限定理的假设测试框架方法，名为 S-LIME，以保证解释结果的稳定性，实验结果在模拟和真实数据集上表明该方法的有效性。

    Jun, 2021

  • 可解释人工智能方法评论：SHAP 和 LIME

    这篇论文探讨解释的可解释人工智能（XAI）方法，特别是 SHapley 加性解释和局部可解释模型无关解释等两种使用广泛的方法，提出一个框架来解释它们的输出，强调它们的优缺点。

    May, 2023

  • Xplique：深度学习可解释性工具箱

    Xplique 是一个用于可解释性的软件库，可以帮助研究人员打开黑盒模型并揭示其决策策略、内部状态或底层数据表示，包括代表性的解释性方法和相关评估指标，并与 TensorFlow 等主流学习库接口。

    Jun, 2022

  • MAPIE：基于开源库的无分布不确定性量化

    介绍了一个名为 MAPIE 的 Python 库，用于评估机器学习模型的鲁棒性和预测能力，实现了符合要求的预测方法，可处理回归和分类等任务，并与 scikit-learn 兼容。

    Jul, 2022

  • 用 SMILE 解释黑盒子：局部解释的统计模型无关可解释性

    机器学习的可信度与解释性是当前发展的重点，提升可信度的关键在于解释性，我们提出了 SMILE 方法，利用统计距离度量来提高解释性，并适用于各种数据领域。

    Nov, 2023