KDDJun, 2024

关于全局特征影响解释的鲁棒性

PDF
TL;DR我们研究了基于表格数据训练的预测模型的全局事后解释的健壮性。预测模型中预测特征的影响是模型调试和应用科学中的重要诊断工具，然而它们在面对数据和模型扰动时的脆弱性仍然是一个未解决的研究问题。我们引入了一些理论界限来评估偏依赖图和累积局部效应的健壮性。我们的实验结果使用合成和真实数据集量化了（误）解释机器学习预测全局情况下最佳和最差情况之间的差距。
发现论文，激发创造
  • 特征重要性和反事实解释的鲁棒性调查

    研究了金融领域中两类常用的局部解释方法的健壮性，给出了健壮性分析的分类方法和结果，并探讨了如何扩展分析方法以确定可靠的解释方法。

    Oct, 2021

  • 基于特征交互分解全局特征影响效应

    该研究提出了一种新的框架，称为广义加性分解全局效应（GADGET），用于找到特征空间中可解释的区域，从而尽量减少局部特征效应的交互异质性，并提出了一种新的置换检验方法来检测显著的特征交互。该方法在不同的实验设置中进行了实证评估，并使用两个真实世界的示例展示了其实用性。

    Jun, 2023

  • 模型无关解释的因果解释效应

    本研究旨在解决机器学习模型预测个体实例时特征贡献和整体特征重要性的估计问题，提出了一种基于假设理想实验的因果效应定义，并构建了基于因果效应的透明且有意义的本地和全局解释方法，其数据驱动估计和实验验证表明了该方法的有效性及实用性。

    Jun, 2022

  • 稳健性分析解释的评估和方法

    本文提出一种基于鲁棒性分析的特征解释新的评估标准，通过针对我们提出的评估标准进行优化，获得了松散且必要的解释和可以将当前预测移动到目标类的特征集。我们通过多领域实验和用户研究验证了我们评估标准和解释的有用性。

    May, 2020

  • 强健稳定的黑盒解释

    通过敌对训练的方法，我们提出了一个生成稳健且高保真黑盒模型解释的新框架，尝试解决现有算法在受到分布偏移时缺乏稳定性和鲁棒性的问题，本文是首次尝试生成对一类有实际意义的敌对扰动具有鲁棒性的后续解释，实验发现我们的方法显著提高了解释的鲁棒性，而不会在原始数据分布上牺牲解释的保真度。

    Nov, 2020

  • 数据驱动解释对抗外部数据的鲁棒性研究

    本篇论文提出了基于自监督学习思想的分布式鲁棒性解释，针对黑盒模型的应用，解释在数据分布变化时的可靠性，并通过广泛的实验验证了该方法对模型的鲁棒性提升。

    Mar, 2023

  • 针对时变协变量的局部分数依赖模型解释

    使用深度神经网络进行高风险决策需要全局和局部解释，我们提出了一种用于发现二元分类机器学习系统中使用的时间序列数据的全局和局部解释的新技术，使用 Cox 比例风险回归的变体对变量的影响进行解释。

    Aug, 2019

  • 传统机器学习模型解释方法比较第一部分：目前方法概述及其不一致性量化

    这篇论文探讨了机器学习模型的可解释性和可解释性，特别是关于本地和全局可解释性以及特征重要性和相关性的方法，并提供了一个完整的 Python 软件包来允许未来的研究人员探索这些产品；根据对严重天气预测和亚冰点路面温度预测的 ML 模型开发的研究， 发现有关特征排名和特征效果的解释方法之间存在显着不一致，并提供建议来处理这些分歧；最后，建议在未来的研究中使用 tree interpreter 方法来探究特征效果。

    Nov, 2022

  • 可靠的事后解释：解释性中的不确定性建模

    本文提出了基于贝叶斯框架的黑盒模型解释方法，能够生成可靠的局部解释和其关联的不确定性，并且具有稳定性和高度一致性，可以快速地解决几个重要问题。通过实证研究，证明了该方法的有效性，并提高了解释的可靠性。

    Aug, 2020

  • 黑匣子分类器生成因果解释

    通过利用生成式模型和因果影响信息论度量，我们开发了一种方法，用于生成关于黑盒分类器的因果事后解释，方法可以学习低维度的数据表示。我们的方法学习全局和局部的解释，适用于任何具有类概率和梯度的分类器，并且不需要标记的属性或因果结构的知识。

    Jun, 2020