Nov, 2023

用 SMILE 解释黑盒子：局部解释的统计模型无关可解释性

PDF
TL;DR机器学习的可信度与解释性是当前发展的重点，提升可信度的关键在于解释性，我们提出了 SMILE 方法，利用统计距离度量来提高解释性，并适用于各种数据领域。
发现论文，激发创造
  • 监督式机器学习可解释性调查

    该综述论文提供了解释性监督机器学习的基本定义、原则和方法，并对过去和最近的解释性机器学习方法进行了分类和综述。通过解释性案例研究阐明了原则，并讨论了重要的未来方向。

    Nov, 2020

  • 机器学习模型的本地可解释模型无关 Shap 解释

    提出了一种称为 LIMASE 的局部可解释模型无关 Shap 说明法，该方法使用 Shapley 值来解释任何模型的预测，提供局部和全局可解释的解释，解决子模块优化问题，为地区解释带来见解，并在与内核解释器相比计算更快。

    Oct, 2022

  • 黑匣子 NLP 模型的解释：一项调查

    本文提出了一种基于中心极限定理的假设检验框架以确定所需扰动点的数量，从而保障解释稳定性的方法 S-LIME，以解决黑箱模型的可解释性问题。对模拟数据集和实际数据集进行的实验表明了该方法的有效性。

    Mar, 2022

  • 使用可解释模型代替不透明模型进行高风险决策

    本文讨论机器学习中的黑盒模型和渴望解释这些模型的方法，强调设计本质可解释模型的必要性以替换高风险决策中的黑盒模型，包括揭示解释黑盒与使用可解释模型之间的差异、阐明避免使用解释型黑盒的原因、提出挑战和解释机器学习的几个应用案例。

    Nov, 2018

  • 面向可解释的人工智能

    本文介绍了机器学习和深度学习算法在科学和工业领域中的应用及其不透明性问题，提出了解释性学习算法和可视化方法的重要性。

    Sep, 2019

  • 解释性之路的通行需面对偏见：衡量解释的公平性

    本文通过在金融、医疗保健、大学招生和美国司法系统等四个领域的实际数据中审计了不同保护子组的解释质量，发现不同子组的近似质量显着不同，而解释深度学习模型的近似质量差异存在着公平性挑战，需要进一步解决。

    May, 2022

  • 机器学习透明性的什么和怎样：使用可互操作算法组件构建定制可解释性工具

    介绍了通过解释性表现组合、数据采样和解释生成构建和评估定制模块化替代解释器的过程的手册，以帮助了解人工智能和机器学习算法的可解释性技术。

    Sep, 2022

  • 通过有意义的扰动提供黑匣子的可解释性解释

    该研究提出了一种适用于任何黑盒机器学习算法的通用解释框架，并将其特化以找到对分类器决策最负责的图像部分。该方法是模型无关且可测试的，因为它基于明确且可解释的图像扰动。

    Apr, 2017

  • 黑匣子模型的全局局部解释

    本研究提出了一种名为 GALE 的机器学习模型，旨在提供有关模型全局决策过程的洞见。结果表明，聚合方法的选择很重要，我们的提出的聚合方法能更好地代表特征如何影响模型的预测，并通过识别区分性特征提供全局洞见。

    Jul, 2019

  • GLocalX -- 从本地到全局的黑匣子 AI 模型解释

    GLocalX 是一种基于本地解释的模型无关的解释方法，通过汇总本地解释解释部分理解黑匣子模型，从而学习精确而简单的可解释模型，以替代黑匣子模型。实验证明，GLocalX 能够准确地模拟几种模型，其性能达到本机全局解决方案的最新水平，这为在带有高维数据的复杂领域中实现高准确性和可理解性的分类模型奠定了基础。

    Jan, 2021