Mar, 2024

通过 Shapley 值解释贝叶斯优化以促进人工智能与人类合作

PDF
TL;DR提出了 ShapleyBO 方法来解释贝叶斯优化 (Bayesian optimization) 的提案，通过博弈论的 Shapley 值对每个参数的贡献进行量化，揭示了每个参数对贝叶斯优化的探索和开发的影响，以及探索方向中先验不确定性和后验不确定性的贡献，并实现了 ShapleyBO 辅助人机界面，以便用户在提案与人类推理不一致时干预贝叶斯优化，实验证明 ShapleyBO 可实现低遗憾度。
bayesian optimizationgaussian processesshapleybogame-theoretic shapley valueshuman-in-the-loop bo
发现论文，激发创造
  • 解释博弈：使用 Shapley 值解释机器学习模型

    本研究提出了一个新的机器学习模型解释框架 FAE（Formulate，Approximate，Explain）。该框架利用了 Shapley 值和博弈论方法进行解释，并提供了置信区间和对比解释来解释黑盒子模型在不同数据集上的结构。

    Sep, 2019

  • 一个高效的纳什均衡值计算方法用于朴素贝叶斯分类器

    本文提出了 Shapley 值在朴素贝叶斯分类器中的确切分析表达式，并对其与证据权重和 KernelShap 在实际数据集上的结果进行了比较，结果表明我们的 Shapley 方案在算法复杂度低的情况下提供了具有信息量的结果，可以在大规模数据集上以极低的计算时间使用。

    Jul, 2023

  • 机器学习中的 Shapley 值

    本文介绍了合作博弈理论的基本概念以及 Shapley value 的公理性质，概述了其在机器学习中的最重要应用：特征选择，可解释性，多智能体强化学习，集成修剪和数据估价，指出了 Shapley value 的主要局限性和未来研究方向。

    Feb, 2022

  • Beta Shapley：一种统一且降噪的机器学习数据价值框架

    本文提出 Beta Shapley，它是 Data Shapley 的实质性泛化，其可作为数种流行的数据估值方法的统一形式，具有理想的统计性质，可用于估计与机器学习相关的模型性能。

    Oct, 2021

  • 人类参与协作和可解释性贝叶斯优化

    我们提出了一种协作和可解释的贝叶斯优化框架（CoExBO），它通过优先学习无缝地将人类洞察力整合到优化中，为用户提供与其偏好相符的算法建议，并通过解释候选项选择来建立信任，使用户对优化有更清晰的掌握。此外，CoExBO 提供不会造成损害的保证，允许用户犯错误；即使进行极端对抗性干预，该算法也渐进地收敛到一个标准的贝叶斯优化方法。通过在锂离子电池设计中进行人工智能协作实验，我们验证了 CoExBO 的有效性，并凸显了与传统方法相比的显著改进。

    Oct, 2023

  • 解释不确定性：高斯过程模型的随机 Shapley 值

    提出了一种使用随机合作博弈中的 Shapley 值来解释高斯过程的方法，这种方法可以利用高斯过程中存在的完整分析协方差结构，生成可以量化解释不确定性和研究解释之间统计依赖性的解释。同时，还扩展了该框架以解释预测问题。

    May, 2023

  • 通过线性回归改进 KernelSHAP：实用的 Shapley 值估算

    本文探讨了如何通过线性回归来有效估计机器学习模型的 Shapley 值，并提出了一种方差缩减技术，以加速两个估计器的收敛速度。此外，还发现了一种新的无偏版本 KernelSHAP，并提出了一种针对随机合作博弈的方法，可产生两个全局解释方法的快速新估计器。

    Dec, 2020

  • 使用 Shapley Value 进行模型解释的预测和因果推论

    本文探讨了 Shapley 值在贝叶斯网络框架下的应用，分析了 Shapley 值与条件独立性的关系，并发现高 Shapley 值的变量不一定对模型预测性能有显著影响，而低 Shapley 值的变量可能会导致较差的预测结果。因此，在一般情况下，使用 Shapley 值进行特征选择并不一定能建立起最简单和预测性最优的模型，而且 Shapley 值不反映变量与目标之间的因果关系。

    Aug, 2020

  • 基于仿真的贝叶斯优化

    模拟基于贝叶斯优化 (SBBO) 是一种用于优化黑盒函数的新方法，只需要通过基于采样的后验预测分布进行访问。该方法允许在涉及组合空间和离散变量的情况下使用适用于组合空间的概率代理模型。在组合优化的应用中，我们通过使用不同的代理模型在实证上证明了 SBBO 方法的有效性。

    Jan, 2024

  • 模型解释的多个 Shapley 值

    本文探讨了 Shapley 值在归因问题中的多样实现方式及产生的问题，且提出了一种基于独特性原理的技术 Baseline Shapley（BShap），并将其与 Integrated Gradients 进行对比。

    Aug, 2019