Apr, 2023

将数据 Shapley 交互计算从 O (2^n) 优化至 O (t n^2)—— 以 KNN 模型为例

PDF
TL;DR本文提出了一种名为 STI-KNN 的算法，可在 O (t n^2) 时间内计算 KNN 模型的精确对交互 Shapley 值，并有效且准确地评估个体数据点的价值，从而提高人工智能应用的效果。
data valuationshapley valuessti-knnpair-interactionartificial intelligence
发现论文，激发创造
  • 阈值 KNN-Shapley：一种线性时间和有隐私友好的数据价值评估方法

    本文研究数据估值中的隐私挑战，以 KNN-Shapley 为重点，提出了 TKNN-Shapley 作为其隐私友好的改进版本，并展示了 TKNN-Shapley 在数据质量识别方面相对于 KNN-Shapley 具有更好的隐私 - 效用权衡。

    Aug, 2023

  • 关于 “最近邻算法有效的任务特定数据估值” 的注记

    本文提出了新的软标签 KNN-SV 算法，该算法使用更自然、更可解释的效用函数，通过基于局部敏感哈希（LSH）的高效逼近算法，实现了对 KNN 分类器 / 回归器的数据 Shapley 的计算。实验证明，Soft-label KNN-SV 在大多数数据集的误标记数据检测任务中优于原始方法，是未来数据估值研究的更好基准。

    Apr, 2023

  • 加权最近邻算法的高效数据 Shapley

    该研究针对数据估值领域的一个悬而未决问题，以加权 $K$ 最近邻算法（WKNN-Shapley）的数据估值为重点，通过将硬标签 KNN 的准确性视为效用函数，重新构思了 WKNN-Shapley 的计算问题，并引入了一个二次时间算法，相比现有文献中的最佳结果 $O (N^K)$ 有显著改进。我们开发了一种确定性近似算法，进一步提高了计算效率，同时保持了 Shapley 值的关键公平性质。通过大量实验，我们证明了 WKNN-Shapley 在计算效率和数据质量识别方面的卓越性能，相较于其无权重对应方法。

    Jan, 2024

  • 最近邻算法高效任务特定数据价值评估

    本文提出一种用 Shapley value 计算数据相对价值的方法，特别是在 KNN 算法中，能够以较低的速度准确计算数据相对价值。

    Aug, 2019

  • 超越 TreeSHAP：用于树集成的任意阶 Shapley 互作用的高效计算

    TreeSHAP-IQ 是一种高效的方法，用于计算基于树的模型预测的任意阶可加性 Shapley 相互作用，并通过数学框架支持，利用多项式算术在树的单个递归遍历中计算相互作用分数。

    Jan, 2024

  • 数据评估的加速 Shapley 值近似算法

    通过利用机器学习问题的结构性质，我们提出了一种更高效的近似数据 Shapley 值的方法，此方法在不同学习设置中包括随机梯度下降和凸、非凸损失函数中证明了其近似 Shapley 值的准确性收敛性。实验证明，这种方法在保持数据的近似价值和排名的同时，提高了近似速度最高可达 9.9 倍，并且在使用小的子集进行精确评估时，对预训练网络的效率更高。

    Nov, 2023

  • SHAP-IQ：任意阶 Shapley 交互的统一逼近

    该研究提出了一种基于采样的计算 Shapley interaction 的新方法 SHAP-IQ，可以用于所有符合线性、对称和虚拟公理的定义，理论上保证了其逼近质量，并提供了点估计的方差估计。该方法极大地简化了 SV 的计算，效率和效果得到了验证。

    Mar, 2023

  • 了解非线性：Shapley 互作用揭示数据的底层结构

    使用 Shapley Taylor 交互指数 (STII) 分析语言模型和图像分类器中的非线性特征交互，并研究数据结构对模型表达的影响。结果表明，语言模型在成语表达中非线性特征交互增加，而依赖句法结构性更多的自回归语言模型使得 STII 随句法距离扩展。同时，图像分类器的特征交互直观地显示对象边界。这些跨领域的研究结果突显了解释性研究中跨学科合作和领域专门知识的重要性。

    Mar, 2024

  • KernelSHAP-IQ: Shapley 交互的加权最小二乘优化

    该研究论文提出了一种对机器学习模型进行解释的方法，通过使用 Shapley value（沙普利价值）和 Shapley Interaction Index（沙普利相互作用指数）来分析黑盒机器学习模型中的信用分配问题，并且给出了一种称为 KernelSHAP-IQ 的方法来解决特征相互作用的问题。

    May, 2024

  • Shapley Taylor 交互指数

    该论文提出一种称为 Shapley-Taylor 指数的方法来解决归因问题，并使用交互分布公理将其公理化，并将其应用于模型中以识别有趣的定性洞见。

    Feb, 2019