Apr, 2022

使用 Shapley 重要性在端到端机器学习管道中进行数据调试

PDF
TL;DR本文介绍了一种名为 DataScope 的系统，它是第一个能够高效计算端到端 ML pipeline 中每个训练样例 Shapley 值的系统，并展示了它在数据调试方面的应用。作者首先开发了一种计算特定 ML pipeline 族群中 Shapley 值的新算法框架，然后将其应用于不同的实例中。实验结果表明，DataScope 比现有的基于蒙特卡罗方法的方法快上四个数量级，同时在数据调试方面同样有效甚至更加有效。
machine learningdata qualityshapley valueml pipelinedata debugging
发现论文，激发创造
  • 数据 Shapley: 机器学习数据的公平估值

    本研究提出一种考虑数据公正价值的方法，通过估算数据 Shapley 值来解决在监督学习中评估数据价值的困难，并且发现该方法优于其他流行的评估方法，可以有效提高预测器的性能。

    Apr, 2019

  • 数据评估的加速 Shapley 值近似算法

    通过利用机器学习问题的结构性质，我们提出了一种更高效的近似数据 Shapley 值的方法，此方法在不同学习设置中包括随机梯度下降和凸、非凸损失函数中证明了其近似 Shapley 值的准确性收敛性。实验证明，这种方法在保持数据的近似价值和排名的同时，提高了近似速度最高可达 9.9 倍，并且在使用小的子集进行精确评估时，对预训练网络的效率更高。

    Nov, 2023

  • 分布式 Shapley 值的高效计算和分析

    本文提出了分布式数据 Shapley 值（DShapley），该值是将 Shapley 值等博弈理论概念开发到了机器学习的统计框架，并可以应用于识别对学习算法有用或有害的数据点。本文通过导出线性回归，二元分类和非参数密度估计的 DShapley 的第一批分析表达式，提供了新的算法来快速估计 DShapley，这些公式直接解释并为不同数据类型提供量化的见解。

    Jul, 2020

  • CHG Shapley: 高效的数据评估与选择，迈向可靠的机器学习

    通过计算每个数据子集对模型准确性的效用近似值，在单个模型训练期间推导 CHG（Conduct of Hardness and Gradient）评分的 Shapley 值闭式表达式，我们在大规模数据集上将数据估值方法从多次模型重训练的形式改进为等效于单次模型重训练，极大地提高了计算效率。同时，我们还利用 CHG Shapley 进行实时数据选择，证明其在识别高价值和有噪声数据方面的有效性。CHG Shapley 通过高效的数据估值方法促进了可信的模型训练，为信任值机器学习引入了一种新的以数据为中心的视角。

    Jun, 2024

  • 概率分类器上的 Shapley 值

    本文提出了一种概率 Shapley 值（P-Shapley），通过构建一个基于概率分类器的类概率效用函数来量化每个数据点对概率分类器的边际贡献，并提供几种置信度校准的激活函数，从而实现评估数据重要性以构建高可用性和可信赖性 ML 模型的目的。

    Jun, 2023

  • 最近邻算法高效任务特定数据价值评估

    本文提出一种用 Shapley value 计算数据相对价值的方法，特别是在 KNN 算法中，能够以较低的速度准确计算数据相对价值。

    Aug, 2019

  • 阈值 KNN-Shapley：一种线性时间和有隐私友好的数据价值评估方法

    本文研究数据估值中的隐私挑战，以 KNN-Shapley 为重点，提出了 TKNN-Shapley 作为其隐私友好的改进版本，并展示了 TKNN-Shapley 在数据质量识别方面相对于 KNN-Shapley 具有更好的隐私 - 效用权衡。

    Aug, 2023

  • 可扩展性与实用性：数据重要性量化中我们是否必须为之牺牲一个？

    本文研究了现有数据量化方法在数据流程中的表现，并通过理论分析和实验研究比较了这些方法的效用，得出基于预训练功能嵌入的 $ K $NN 替代的 Shapley 值近似可以在实现显著可扩展性改进的同时实现具有可比性的实用性和优越性，这也能够证明它在很大程度上优于留一法误差。

    Nov, 2019

  • 数据价值评估的分布式框架

    提出一个新的统计框架 —— 分布 Shapley，其定义了基于潜在数据分布的点的价值，解决了数据 Shapley 框架的限制，并使用该框架开发了一个新的算法，运行速度比计算（非分布式）数据 Shapley 值的最先进算法快两个数量级，对各种数据集进行了应用并证明了它在数据市场环境中的实用性。

    Feb, 2020

  • Beta Shapley：一种统一且降噪的机器学习数据价值框架

    本文提出 Beta Shapley，它是 Data Shapley 的实质性泛化，其可作为数种流行的数据估值方法的统一形式，具有理想的统计性质，可用于估计与机器学习相关的模型性能。

    Oct, 2021