Jan, 2024

加权最近邻算法的高效数据 Shapley

PDF
TL;DR该研究针对数据估值领域的一个悬而未决问题，以加权 $K$ 最近邻算法（WKNN-Shapley）的数据估值为重点，通过将硬标签 KNN 的准确性视为效用函数，重新构思了 WKNN-Shapley 的计算问题，并引入了一个二次时间算法，相比现有文献中的最佳结果 $O (N^K)$ 有显著改进。我们开发了一种确定性近似算法，进一步提高了计算效率，同时保持了 Shapley 值的关键公平性质。通过大量实验，我们证明了 WKNN-Shapley 在计算效率和数据质量识别方面的卓越性能，相较于其无权重对应方法。
data valuationdata shapleyweighted k nearest neighbor algorithmcomputational efficiencydata quality
发现论文，激发创造
  • 最近邻算法高效任务特定数据价值评估

    本文提出一种用 Shapley value 计算数据相对价值的方法，特别是在 KNN 算法中，能够以较低的速度准确计算数据相对价值。

    Aug, 2019

  • 关于 “最近邻算法有效的任务特定数据估值” 的注记

    本文提出了新的软标签 KNN-SV 算法，该算法使用更自然、更可解释的效用函数，通过基于局部敏感哈希（LSH）的高效逼近算法，实现了对 KNN 分类器 / 回归器的数据 Shapley 的计算。实验证明，Soft-label KNN-SV 在大多数数据集的误标记数据检测任务中优于原始方法，是未来数据估值研究的更好基准。

    Apr, 2023

  • 阈值 KNN-Shapley：一种线性时间和有隐私友好的数据价值评估方法

    本文研究数据估值中的隐私挑战，以 KNN-Shapley 为重点，提出了 TKNN-Shapley 作为其隐私友好的改进版本，并展示了 TKNN-Shapley 在数据质量识别方面相对于 KNN-Shapley 具有更好的隐私 - 效用权衡。

    Aug, 2023

  • 将数据 Shapley 交互计算从 O (2^n) 优化至 O (t n^2)—— 以 KNN 模型为例

    本文提出了一种名为 STI-KNN 的算法，可在 O (t n^2) 时间内计算 KNN 模型的精确对交互 Shapley 值，并有效且准确地评估个体数据点的价值，从而提高人工智能应用的效果。

    Apr, 2023

  • 数据评估的加速 Shapley 值近似算法

    通过利用机器学习问题的结构性质，我们提出了一种更高效的近似数据 Shapley 值的方法，此方法在不同学习设置中包括随机梯度下降和凸、非凸损失函数中证明了其近似 Shapley 值的准确性收敛性。实验证明，这种方法在保持数据的近似价值和排名的同时，提高了近似速度最高可达 9.9 倍，并且在使用小的子集进行精确评估时，对预训练网络的效率更高。

    Nov, 2023

  • 分布式 Shapley 值的高效计算和分析

    本文提出了分布式数据 Shapley 值（DShapley），该值是将 Shapley 值等博弈理论概念开发到了机器学习的统计框架，并可以应用于识别对学习算法有用或有害的数据点。本文通过导出线性回归，二元分类和非参数密度估计的 DShapley 的第一批分析表达式，提供了新的算法来快速估计 DShapley，这些公式直接解释并为不同数据类型提供量化的见解。

    Jul, 2020

  • 一个高效的纳什均衡值计算方法用于朴素贝叶斯分类器

    本文提出了 Shapley 值在朴素贝叶斯分类器中的确切分析表达式，并对其与证据权重和 KernelShap 在实际数据集上的结果进行了比较，结果表明我们的 Shapley 方案在算法复杂度低的情况下提供了具有信息量的结果，可以在大规模数据集上以极低的计算时间使用。

    Jul, 2023

  • DU-Shapley: 一种有效数据集估价的 Shapley 值代理

    本文提出了一种基于离散均匀分布的 Shapley 值近似估计方法，以更高效地进行数据集估价和数据共享，并通过多个数据集估价基准测试表明 DU-Shapley 的效果优于其他 Shapley 估算方法。

    Jun, 2023

  • 数据估值：机器学习的部分序数 Shapley 值

    本文研究了抽象代数中通过群论定义偏序 Shapley 价值的概念及其在数据合作中的角色。提出了三种算法来近似计算该价值，其中包括基于经典 Shapley 价值算法的截断蒙特卡罗算法，以及基于同一类中数据点提供类似信息这一事实的蒙特卡罗和截断蒙特卡罗算法，以加快计算速度。

    May, 2023

  • KernelSHAP-IQ: Shapley 交互的加权最小二乘优化

    该研究论文提出了一种对机器学习模型进行解释的方法，通过使用 Shapley value（沙普利价值）和 Shapley Interaction Index（沙普利相互作用指数）来分析黑盒机器学习模型中的信用分配问题，并且给出了一种称为 KernelSHAP-IQ 的方法来解决特征相互作用的问题。

    May, 2024