Feb, 2018

解释黑匣子模型方法综述

PDF
TL;DR本文提供了关于黑盒决策系统和可解释性的分类，以及开放式黑盒模型的方法，帮助研究者找到适合自己工作的提案，并对许多研究开放性问题有所启发。
black box decision systemsinterpretabilityexplanationclassificationopen black box models
发现论文，激发创造
  • 黑盒模型解释方法的基准测试和调查

    这篇论文探讨了在人工智能中黑盒模型的广泛应用，加强了揭示这些模型是如何做出决策的需求，首先提出一种基于返回信息类型的解释方法分类，展示最近和广泛使用的解释器，通过视觉比较和定量基准测试进行展示。

    Feb, 2021

  • 使用可解释模型代替不透明模型进行高风险决策

    本文讨论机器学习中的黑盒模型和渴望解释这些模型的方法，强调设计本质可解释模型的必要性以替换高风险决策中的黑盒模型，包括揭示解释黑盒与使用可解释模型之间的差异、阐明避免使用解释型黑盒的原因、提出挑战和解释机器学习的几个应用案例。

    Nov, 2018

  • 黑盒决策系统的本地基于规则的解释

    本文提出了一种名为 LORE 的黑匣子探明方法，能够从逻辑和反事实规则两个层面解释黑匣子机器学习模型的决策原因，从而提高其在社会敏感和安全关键环境中的可用性和透明度。

    May, 2018

  • 监督式机器学习可解释性调查

    该综述论文提供了解释性监督机器学习的基本定义、原则和方法，并对过去和最近的解释性机器学习方法进行了分类和综述。通过解释性案例研究阐明了原则，并讨论了重要的未来方向。

    Nov, 2020

  • 通过模型提取方法解释黑匣子模型

    为了解释黑盒模型，本文提出使用决策树对其进行全局解释，并采用新的决策树提取算法避免过拟合，评估表明该方法正确率更高且可解释性更强。

    May, 2017

  • 通过有意义的扰动提供黑匣子的可解释性解释

    该研究提出了一种适用于任何黑盒机器学习算法的通用解释框架，并将其特化以找到对分类器决策最负责的图像部分。该方法是模型无关且可测试的，因为它基于明确且可解释的图像扰动。

    Apr, 2017

  • 将领域知识融入基于 AI 的 “黑箱” 模型，以提高其可解释性并应用于破产预测

    本文介绍了一个将领域知识存在一个 “黑匣子” 模型中的方法以提高模型的解释性和可理解性，为银行破产预测等领域带来更好的应用前景。

    May, 2019

  • 决策支持和推荐系统中解释的系统审查和分类

    本文系统审查了建议系统中的解释问题，探究了其目的、生成方式、呈现方式和评估方式，并提出了一个全面的分类法，其中包括解释目标、响应性、内容和呈现等方面，同时还识别了许多未解决的挑战。

    Jun, 2020

  • 可解释的、可探究的黑匣子模型近似

    提出了 BETA 框架，通过透明的逼近来解释任何黑盒分类器的行为，允许用户交互式地探索用户感兴趣的不同子空间中黑盒模型的行为。实验评估表明，与现有基线相比，该方法可以生成高度紧凑，易于理解，但准确的各种预测模型的逼近。

    Jul, 2017

  • 如何解释单个分类决策

    本文提出一种基于一组假设的程序，能够解释任何分类方法所做出的决策。

    Dec, 2009