shapley values | BriefGPT - AI 论文速递

关键词shapley values

搜索结果 - 91

Shapley-PC: 使用 Shapley 值进行基于约束的因果结构学习
用 Shapley 值来改进基于约束的因果结构学习算法，通过决定哪些变量对观察到的条件（独）立负责，证明其合理性和渐近一致性，并根据 CSL 的标准度量表现优于基于约束、基于搜索和基于功能因果模型的最先进方法。
PDF7 months ago
AAAI高效量化合作 MARL 中个体代理的重要性
合作多智能体强化学习中个体代理的贡献度一直是一项具有挑战性的任务，而本文提出的 Agent Importance 方法通过计算个体代理的贡献度，其计算复杂度相对于代理数量呈线性增长，能够有效代替耗时的 Shapley values 方法。实
PDF7 months ago
Shapley 值支持的渐进式伪样本增强用于全幻灯片图像分类
使用合作博弈理论灵感，结合 Shapley 值和注意力机制，改进多实例学习方法，提高实例级别信息的估计准确性和幻灯片标签的预测性能。通过实验证明，在计算病理学领域的 CAMELYON-16、BRACS 和 TCGA-LUNG 数据集上，我们
PDF7 months ago
个体 Shapley 值解释的精确性
Shapley value explanations are less precise for observations on the outer region of the training data distribution, whic
PDF7 months ago
信息修改的 K 最近邻算法
提出了一种新的分类方法，名为信息修正 KNN（IMKNN），通过引入互信息（MI）来提高 K - 最近邻算法（KNN）的性能，并从合作博弈论中的 Shapley 值概念汲取灵感，以优化价值分配。实验结果表明，在不同数据集和评判标准下，IMK
PDF7 months ago
TextGenSHAP: 长文本生成中的可扩展后验解释
TextGenSHAP 是一个高效的事后解释方法，该方法结合了 LM 特定技术，通过减少处理时间、提供局部化重要词语和句子的能力以及增强选择性片段和最终回答的准确性，显著提高了大型语言模型的性能。
PDF7 months ago
探索快速 Shapley 值估计的统一视角
Shapley 值是一种广泛接受和可信赖的工具，用于解决深度神经网络等黑盒模型所带来的挑战。本研究分析了现有工作的一致性，并推断出随机估计器可以统一为特征子集重要性采样的线性变换。基于此，我们探讨设计简单的摊销估计器的可能性，并提出了一种简
PDF8 months ago
利用控制变量稳定 Shapley 值的估计
使用 Monte Carlo 控制变量技术的 ControlSHAP 方法可以有效减少 Shapley 估计的 Monte Carlo 变异性。
PDF9 months ago
FedMFS：选择性模态通信的联邦多模融合学习
本文提出了一种新的多模态融合联邦学习方法 (FedMFS)，通过利用 Shapley 值来量化每个模态的贡献和模态模型的大小来衡量通信开销，从而实现在性能与通信成本之间的灵活平衡，该方法在现实多模态数据集上的实验证明了其有效性，相比基线方法
PDF9 months ago
拒绝使用 Shapley 值进行 XAI -- 额外证据
最近的研究表明 Shapley 值对于可解释的人工智能（XAI）是不足够的，本文通过对特征既非布尔型又能选择多个类别的分类器家族的研究，进一步证明了 Shapley 值在 XAI 中的不适用性，并展示了在任何最小 l0 距离对抗样本中发生变
PDF9 months ago
基于 ONNX 的通用框架：使用 Shapley 值解释神经网络的 ONNXExplainer
ONNXExplainer 是一个用 Shapley 值在 ONNX 生态系统中解释神经网络的通用框架，其自动微分和优化方法实现了一次部署、高效计算解释和更少内存消耗。通过与 SHAP 进行比较，广泛的基准测试表明，所提出的优化方法能够提高
PDF9 months ago
QXAI: 可解释的人工智能框架用于患者监测系统中的定量分析
使用人工智能技术，特别是可解释的 AI (QXAI) 框架，通过深度学习模型来预测病人的生理活动并监测生命体征，提供全局和局部解释，为决策者提供可靠依据。(Translation: By utilizing Artificial Intel
PDF10 months ago
SHAPNN: Shapley 值正则化表格型神经网络
SHAPNN 是一种新颖的深度表格数据建模架构，通过利用 Shapley 值，一种解释黑盒模型的常用技术，我们的神经网络使用标准的反向传播优化方法进行训练，并利用实时估计的 Shapley 值进行正则化。我们的方法具有多个优点，包括可以为数
PDF10 months ago
对可解释性的 Shapley 值的反驳
该论文证明了存在着布尔函数，其中 Shapley 值提供了关于特征相对重要性的误导信息，相关的问题归结为与预测相关的特征的相关性或无关性，并且所有这些问题都与 Shapley 值在基于规则的可解释性方面的不足性有关。该论文通过证明，对于任意
PDF10 months ago
可解释的图神经网络用于表格数据
IGNNet 是一个解释性图神经网络，用于处理表格数据，通过表征学习的方式捕获特征交互，大规模的实证研究证明 IGNNet 与 XGBoost、Random Forests 和 TabNet 等最先进的机器学习算法在处理表格数据时表现相当，
PDFa year ago
概率黑盒异常归因的生成扰动分析
我们提出了一个概率异常归因框架，可以在黑盒回归情况下计算每个输入变量的归因得分的概率分布，从而解释与黑盒模型的异常偏差。我们展示了主流的模型无关解释方法在这个任务中不适用，并提出了一个新的框架，可以计算归因得分的预测均值和量化不确定性。我们
PDFa year ago
基于冗余感知的无监督基因集合排名
利用重要性分数按照覆盖集的角度对基因集合进行排序，从而增加基因集合的可解释性，并在 Shapley 值计算中引入冗余感知。
PDFa year ago
模型无关的交互式特征归因提高性能和样本效率
本文提供了两种流行的解释方法（Occlusion 和 Shapley 值）的模型无关实现，以无限制的交互方式实现不同的属性。利用已纠正的特征归属来生成额外的本地数据，通过在模拟和真实数据实验中展示我们提出的方法如何通过纠正的解释显著提高模型
PDFa year ago
可解释性并非游戏
这篇论文提出了一个简单的论点：Shapley 值可能会给出误导性的相对特征重要性量度，从而不仅会将更多的重要性分配给与预测无关的特征，而且会给与与预测相关的特征更少的重要性，这对于高风险应用领域中相对特征重要性的许多提议使用产生了挑战。
PDFa year ago
通过 Shapley 值的分解来解释模型和特征之间的依赖关系
本文提出了一种新的算法方法，将 Shapley 值中两种不同的解释组合在一起，以增强模型的说明能力，并在两个真实世界的数据集上应用。
PDFa year ago