Dec, 2022

利用 Myerson 值更高效地计算合作多智能体系统的个人属性和政策贡献，以实现事后解释

PDF
TL;DR本文提出了一种基于 Shapley 分析实现多智能体系统中个体贡献度评估的方法，并利用层次化知识图谱用于降低计算复杂度，同时通过测试证明了该方法不仅能评估团队中个体的重要性，还能揭示实现最佳策略所需的特征属性。
shapley analysismulti-agent systemcoalitional gamepolicy assessmentdeep reinforcement learning
发现论文，激发创造
  • 高效量化合作 MARL 中个体代理的重要性

    合作多智能体强化学习中个体代理的贡献度一直是一项具有挑战性的任务，而本文提出的 Agent Importance 方法通过计算个体代理的贡献度，其计算复杂度相对于代理数量呈线性增长，能够有效代替耗时的 Shapley values 方法。实证结果表明 Agent Importance 与真实的 Shapley values 及底层个体代理奖励具有较强相关性，并且可用于诊断多智能体强化学习系统中的算法失败情况，从而作为未来强化学习基准测试的一个有价值的可解释性组成部分。

    Dec, 2023

  • 通过结构感知交互指数解释图神经网络

    本论文提出了 Myerson-Taylor 互动指数，将图结构内化到节点值和节点之间的互动值之中，并使用 Myerson-Taylor 结构感知图解释器（MAGE）基于二阶 Myerson-Taylor 指数识别影响模型预测的最重要模体。通过在各种图数据集和模型上进行广泛实验，我们证明了与现有方法相比，我们的方法始终提供更好的子图解释。

    May, 2024

  • L-Shapley 和 C-Shapley：用于结构化数据的高效模型解释

    本研究探讨了实例级特征重要性评分作为模型解释方法，并提出两种线性复杂度的算法来评估图结构数据中的特征贡献，并与其他模型解释方法进行比较。

    Aug, 2018

  • 用于 Shapley 值近似的多项式时间算法解释深度神经网络

    该研究提出了一种基于不确定性传播的深度神经网络 Shapley 值的多项式时间逼近方法，相较于现有最先进的归因方法，该方法可以显著地更好地逼近 Shapley 值。

    Mar, 2019

  • 集成博弈中分类器的 Shapley 值

    介绍了一种名为 “ensemble games” 的可转移效用合作博弈，通过定义一种名为 Troupe 的算法，它基于分类器的近似 Shapley 值来分配收益，以量化机器学习集合中模型的重要性，并证明了 Shapley 值估计方案的精确性和可扩展性， 经验证明，Shapley 值可用于集合修剪，对抗模型接受低估价值，常常发现复杂的分类器对于正确和错误的分类决策都负有责任。

    Jan, 2021

  • 基于 Shapley 值的多智能体强化学习：理论、方法及其在能源网络中的应用

    本论文通过合作博弈理论研究了多智能体强化学习中的信用分配问题，提出了一种基于 Markov Shapley 值的信用分配方案，并应用于能源网络的真实问题上。

    Feb, 2024

  • 神经收益机器：预测团队成员间公平和稳定的收益分配

    本文提出了一种使用神经网络模型来学习协作博弈解决方案，以促进公平合作分配的方法，特别是 Shapley value 在 Explainable AI 中的应用。

    Aug, 2022

  • 机器学习中的 Shapley 值

    本文介绍了合作博弈理论的基本概念以及 Shapley value 的公理性质，概述了其在机器学习中的最重要应用：特征选择，可解释性，多智能体强化学习，集成修剪和数据估价，指出了 Shapley value 的主要局限性和未来研究方向。

    Feb, 2022

  • 追溯一个联盟的输入变量归因

    从全新的角度，本文旨在开发一种新的归因方法，以解释个体变量的归属和联合归属之间的冲突。通过重新分配交互作用，我们将 Shapley 值扩展到联合归属，并推导出该冲突的基本机制，该冲突来自于联合中包含部分变量的交互作用。

    Sep, 2023

  • HarsanyiNet：在单个前向传播中计算准确的 Shapley 值

    该研究提出了一种名为 HarsanyiNet 的新型神经网络结构，可以在进行单次前向传播时推断输入样本和精确计算输入变量的 Shapley 值，并且基于理论基础设计，将 Shapley 值重新制定为由网络编码的 Harsanyi 交互的重新分配。

    Apr, 2023