Dec, 2017

基于比较的可解释性机器学习中的反向分类

PDF
TL;DR本文讨论了在没有任何关于分类器或数据的信息的情况下解释分类器预测的任务，提出了一种基于实例的方法，用于确定改变预测所需的最小改变，并将其实现为使用 Growing Spheres 算法进行观测生成的原则。实验结果表明，该方法具有实用性，并可用于了解分类器。
post-hoc interpretabilityprediction explanationminimal changesinstance-based approachgrowing spheres algorithm
发现论文，激发创造
  • 同理解能机器学习技术能否检测虚假相关性？

    深度神经网络模型容易学习到数据中的错误相关性，本文提出了一种评估方法，评估了五种事后解释技术和一种固有可解释的方法在胸部 X 射线诊断任务中对三种人为添加的混淆因素进行正确识别的能力，并发现 SHAP 和 Attri-Net 技术表现最佳，可用于可靠地识别错误的模型行为。

    Jul, 2023

  • 深度学习的拓扑可解释性

    本研究介绍了一种利用拓扑和几何数据分析技术来推断临床和非临床文本的两个深度学习分类模型中的突出特征的方法，并通过概率度量距离获取诊断模型决策信息的稳定性来证明这一方法的可行性。

    May, 2023

  • CLIMAX：分类器基于对比解释的探索

    本文提出了一种名为 CLIMAX 的后操作模型无关 XAI 技术，它提供了对黑盒分类器分类的对比解释以及为什么其他类别未被预测的理由。

    Jul, 2023

  • AdvisingNets：通过最近邻解释学习区分正确和错误分类

    通过使用 AdvisingNet 和一种新的重新排序算法，将输入图像与事后最近邻解释进行比较，本文旨在提高图像分类准确性，同时提高人工智能团队和分类器的准确性。

    Aug, 2023

  • 使用二次训练数据对学习排序模型进行后证明可能性解释

    本文研究了如何在后期操作中用可解释的特征空间解释排名模型，并使用来自排名器的标签来训练树状模型，以提供解释，研究表明在某些情况下，可以学习到忠实且可解释的排名器。

    Jun, 2018

  • 本地可解释的机器学习和人工智能：初步结果和未来方向

    该论文介绍了如何结合 k 最近邻算法与信息论来解决机器学习模型复杂度与可解释性之间的矛盾，以实现全面审计的机器学习和人工智能技术

    Jan, 2019

  • 多类模型解释的加法逐实例方法

    本论文提出了一种使用解释模型同时针对多个目标类别进行本地解释的框架，该模型具有更高的解释性和更紧凑的解释，通过广泛的实验验证了该模型具有选择稳定和重要特征的能力。

    Jul, 2022

  • 无需训练数据，解释神经网络

    本文介绍了一种机器学习任务来理解神经网络中的可解释函数，并将该框架扩展到标准和软决策树作为替代模型的情况，并通过考虑更现实的分布来生成训练数据来使其适用于更加现实的任务，并在实验中表明其具有优秀的性能。

    Jun, 2022

  • 可解释性作为统计推论

    通过统计推断方法构建了一种概率模型，通过学习模型参数和使用神经网络选择器来实现解释性预测，并利用新数据集进行了实验验证，证明了使用多重插补提供了更合理的解释。

    Dec, 2022

  • 基于概念的视觉解释的无监督可解释基础提取

    本文提出了一种无监督的后期方法，通过查找解释稀疏的一个阈值转换表示的像素激活的特征空间旋转来提取可解释的基础，并在现有流行的 CNNs 上进行实验，证明了本方法提取可解释基础的有效性。此外，通过基础可解释性度量，将中间层表示转换为我们方法提取的基础，从而使中间层表示更具可解释性。最后，我们将提取的基础与监督方法提取的基础进行比较，并发现无监督方法具有优势，为未来的研究提供了潜在方向。

    Mar, 2023