May, 2023

解释不确定性：高斯过程模型的随机 Shapley 值

PDF
TL;DR提出了一种使用随机合作博弈中的 Shapley 值来解释高斯过程的方法，这种方法可以利用高斯过程中存在的完整分析协方差结构，生成可以量化解释不确定性和研究解释之间统计依赖性的解释。同时，还扩展了该框架以解释预测问题。
gaussian processesshapley valuespredictive explanationexplanation uncertaintiesstatistical dependencies
发现论文，激发创造
  • 变分 Shapley 网络：基于概率的自解释 Shapley 值与不确定性量化方法

    我们引入了一种新颖的、能够显著简化 Shapley 值计算的自解释方法，并且探索了将概率框架纳入其中以捕捉解释中固有的不确定性，它基于一个新颖的遮蔽神经网络体系结构，在模拟和真实数据集上的评估验证了我们技术的稳健预测和解释性能。

    Feb, 2024

  • 使用信息理论 Shapley 值解释预测不确定性

    本文提出一种将 Shapley 值框架用于解释各种预测不确定性的方法，旨在通过量化每个特征对个体模型输出的条件熵的贡献来解释模型输出的不确定度；该方法具有用于协变量转移检测、主动学习、特征选择和主动特征值获取的应用。

    Jun, 2023

  • 解释概率模型的分布值

    通过概率模型的分布值和随机变量，这篇论文扩展了合作博弈和价值算子的方法，解决了可解释性机器学习中解释与当前方法之间的不匹配问题，并通过视觉和语言模型的案例研究提供了细致深入的解释。

    Feb, 2024

  • 解释博弈：使用 Shapley 值解释机器学习模型

    本研究提出了一个新的机器学习模型解释框架 FAE（Formulate，Approximate，Explain）。该框架利用了 Shapley 值和博弈论方法进行解释，并提供了置信区间和对比解释来解释黑盒子模型在不同数据集上的结构。

    Sep, 2019

  • 个体 Shapley 值解释的精确性

    Shapley value explanations are less precise for observations on the outer region of the training data distribution, which has not been systematically addressed in the Shapley value literature.

    Dec, 2023

  • 估计条件 Shapley 值方法的比较研究及其应用

    本文主要研究如何使用 Monte Carlo 积分或回归来模拟条件期望值以估计 Shapley 值，以及对现有方法进行改进和系统化分类，并进行广泛的模拟和实际数据实验来评估和推荐何时使用不同的方法类。

    May, 2023

  • 当特征具有依赖性时解释单个预测：更准确的 Shapley 值逼近

    本文介绍了使用 Shapley 值框架及其高维的计算有效近似，使复杂机器学习模型在解释各远行预测时更具可解释性，同时提出了处理相关特征的方法，增强了解释精度。

    Mar, 2019

  • 通过线性回归改进 KernelSHAP：实用的 Shapley 值估算

    本文探讨了如何通过线性回归来有效估计机器学习模型的 Shapley 值，并提出了一种方差缩减技术，以加速两个估计器的收敛速度。此外，还发现了一种新的无偏版本 KernelSHAP，并提出了一种针对随机合作博弈的方法，可产生两个全局解释方法的快速新估计器。

    Dec, 2020

  • 利用控制变量稳定 Shapley 值的估计

    使用 Monte Carlo 控制变量技术的 ControlSHAP 方法可以有效减少 Shapley 估计的 Monte Carlo 变异性。

    Oct, 2023

  • 通过 Shapley 值解释贝叶斯优化以促进人工智能与人类合作

    提出了 ShapleyBO 方法来解释贝叶斯优化 (Bayesian optimization) 的提案，通过博弈论的 Shapley 值对每个参数的贡献进行量化，揭示了每个参数对贝叶斯优化的探索和开发的影响，以及探索方向中先验不确定性和后验不确定性的贡献，并实现了 ShapleyBO 辅助人机界面，以便用户在提案与人类推理不一致时干预贝叶斯优化，实验证明 ShapleyBO 可实现低遗憾度。

    Mar, 2024