Oct, 2022

机器学习分类器解释中特征的必要性和相关性

PDF
TL;DR该论文提出了解释机器学习模型预测的方法，同时讨论了相关性和必要性问题，证明了多个机器学习分类器的成员和困难性，并针对不同分类器提出了具体算法。实验结果表明所提算法的可扩展性较好。
machine learningexplanationsrelevancynecessityclassifiers
发现论文，激发创造
  • 使用非二元特征的分类器的新解释类别

    研究了分类器的决策规律，提出了两种解释的方法：有支撑和对比解释。当处理非二分特征时，这些解释会受到显著影响，在此基础上，提出了一种新的完备原因的概念及其量化运算符。

    Apr, 2023

  • 通过集合成员方法发现特征关联性并解释神经分类器的决策

    介绍了一种新的方法来发现由训练后的神经分类器认为具有重要意义的特征，以及这些特征如何影响分类器的输出，从而获得其决策的解释。该方法基于可靠的数学方法，提供了分类器决策前提的可靠估计，重申特征相关性的重要性。

    Apr, 2022

  • 关于计算概率性还原解释

    探索实用于广泛使用的决策树、朴素贝叶斯分类器和命题语言的几个家族更好地计算超过给定阈值的目标类的相关集，证实了这些类别的相对简洁的相关特征集可以很容易地获得。

    Dec, 2022

  • 概率充分解释

    本研究提出了概率充分解释的理念，即通过 “足够简单” 的特征子集来 “足以” 解释分类行为，并结合可扩展的概率推理算法设计出可行的实现方案。实验证明，本算法找到的充分解释更有效，且优于基准模型 Anchors 和逻辑解释。

    May, 2021

  • 文本分类器的解释必要性和充分性：仇恨言论检测案例研究

    本文提供了一种新的特征归因方法用于解释文本分类器，用于分析恶意言论检测；提供 “必要性” 和 “充分性” 两种互补的理论得分，计算这些值的透明方法通过生成输入文本的显式扰动，使重要性评分本身具有可解释性；我们使用这种方法解释了不同恶意言语检测模型对同一测试套件中策划示例的预测，并表明对于身份术语的不同必要性和充分性值对应于不同类型的误报错误，揭示了分类器对边缘化群体的偏见的来源。

    May, 2022

  • 基于绑架的机器学习模型解释

    本论文提出了一种无约束解决方案，利用归纳推理计算任何机器学习模型的解释，验证了所提出方法的可伸缩性和计算出的解释的质量。

    Nov, 2018

  • 关于 “为什么？” 和 “为什么不？” 解释的关联

    本文探讨了机器学习模型中的预测解释，通过研究为预测选择足够特征值对的解释和为保证预测变化而寻找特征值变化的解释之间的关系，并提出了新的算法来提取和枚举这两种形式的解释。

    Dec, 2020

  • 计算解释 NBCs 的相关特征

    本文研究了朴素贝叶斯分类器中相关特征的计算，并表明这些特征的简明集合可以很容易地获得，从而解决了形式化方法在可解释性人工智能领域的重要难题。

    Jul, 2022

  • 关于决定 SDD 及相关分类器解释中特征成员资格的研究

    本文从机器学习、解释、特征成员问题、分类器和多项式时间五个关键词出发，提出了一种能够较为高效地解决多项式时间分类器中特征成员问题的方法，并通过实验结果验证了其可行性。

    Feb, 2022

  • 决策树的解释能力

    本文研究布尔决策树在导出、最小化和计数足够原因和对比解释方面的计算能力，证明了给定决策树的实例的最小大小的所有足够原因集合可以指数级大于输入大小，因此生成完整的足够原因集合可能是不可行的，而生成一个足够原因集无法证明是充分的，介绍了相关特征和必要特征的概念以及解释重要性的概念，并展示了如何通过一个模型计数操作获取特征重要性和足够原因的数量，最后表明，与足够的理由不同，决策树给定实例的所有对比解释可以在多项式时间内导出、最小化和计数。

    Aug, 2021