Nov, 2019

可扩展性与实用性：数据重要性量化中我们是否必须为之牺牲一个？

PDF
TL;DR本文研究了现有数据量化方法在数据流程中的表现，并通过理论分析和实验研究比较了这些方法的效用，得出基于预训练功能嵌入的 $ K $NN 替代的 Shapley 值近似可以在实现显著可扩展性改进的同时实现具有可比性的实用性和优越性，这也能够证明它在很大程度上优于留一法误差。
importance quantification methodsshapley value approximationdata workflowsscalabilitytheoretical analysis
发现论文，激发创造
  • 数据 Shapley: 机器学习数据的公平估值

    本研究提出一种考虑数据公正价值的方法，通过估算数据 Shapley 值来解决在监督学习中评估数据价值的困难，并且发现该方法优于其他流行的评估方法，可以有效提高预测器的性能。

    Apr, 2019

  • 概率分类器上的 Shapley 值

    本文提出了一种概率 Shapley 值（P-Shapley），通过构建一个基于概率分类器的类概率效用函数来量化每个数据点对概率分类器的边际贡献，并提供几种置信度校准的激活函数，从而实现评估数据重要性以构建高可用性和可信赖性 ML 模型的目的。

    Jun, 2023

  • L-Shapley 和 C-Shapley：用于结构化数据的高效模型解释

    本研究探讨了实例级特征重要性评分作为模型解释方法，并提出两种线性复杂度的算法来评估图结构数据中的特征贡献，并与其他模型解释方法进行比较。

    Aug, 2018

  • 数据评估的加速 Shapley 值近似算法

    通过利用机器学习问题的结构性质，我们提出了一种更高效的近似数据 Shapley 值的方法，此方法在不同学习设置中包括随机梯度下降和凸、非凸损失函数中证明了其近似 Shapley 值的准确性收敛性。实验证明，这种方法在保持数据的近似价值和排名的同时，提高了近似速度最高可达 9.9 倍，并且在使用小的子集进行精确评估时，对预训练网络的效率更高。

    Nov, 2023

  • CHG Shapley: 高效的数据评估与选择，迈向可靠的机器学习

    通过计算每个数据子集对模型准确性的效用近似值，在单个模型训练期间推导 CHG（Conduct of Hardness and Gradient）评分的 Shapley 值闭式表达式，我们在大规模数据集上将数据估值方法从多次模型重训练的形式改进为等效于单次模型重训练，极大地提高了计算效率。同时，我们还利用 CHG Shapley 进行实时数据选择，证明其在识别高价值和有噪声数据方面的有效性。CHG Shapley 通过高效的数据估值方法促进了可信的模型训练，为信任值机器学习引入了一种新的以数据为中心的视角。

    Jun, 2024

  • 最近邻算法高效任务特定数据价值评估

    本文提出一种用 Shapley value 计算数据相对价值的方法，特别是在 KNN 算法中，能够以较低的速度准确计算数据相对价值。

    Aug, 2019

  • 关于 “最近邻算法有效的任务特定数据估值” 的注记

    本文提出了新的软标签 KNN-SV 算法，该算法使用更自然、更可解释的效用函数，通过基于局部敏感哈希（LSH）的高效逼近算法，实现了对 KNN 分类器 / 回归器的数据 Shapley 的计算。实验证明，Soft-label KNN-SV 在大多数数据集的误标记数据检测任务中优于原始方法，是未来数据估值研究的更好基准。

    Apr, 2023

  • 使用 Shapley 重要性在端到端机器学习管道中进行数据调试

    本文介绍了一种名为 DataScope 的系统，它是第一个能够高效计算端到端 ML pipeline 中每个训练样例 Shapley 值的系统，并展示了它在数据调试方面的应用。作者首先开发了一种计算特定 ML pipeline 族群中 Shapley 值的新算法框架，然后将其应用于不同的实例中。实验结果表明，DataScope 比现有的基于蒙特卡罗方法的方法快上四个数量级，同时在数据调试方面同样有效甚至更加有效。

    Apr, 2022

  • 数据估值：机器学习的部分序数 Shapley 值

    本文研究了抽象代数中通过群论定义偏序 Shapley 价值的概念及其在数据合作中的角色。提出了三种算法来近似计算该价值，其中包括基于经典 Shapley 价值算法的截断蒙特卡罗算法，以及基于同一类中数据点提供类似信息这一事实的蒙特卡罗和截断蒙特卡罗算法，以加快计算速度。

    May, 2023

  • 分布式 Shapley 值的高效计算和分析

    本文提出了分布式数据 Shapley 值（DShapley），该值是将 Shapley 值等博弈理论概念开发到了机器学习的统计框架，并可以应用于识别对学习算法有用或有害的数据点。本文通过导出线性回归，二元分类和非参数密度估计的 DShapley 的第一批分析表达式，提供了新的算法来快速估计 DShapley，这些公式直接解释并为不同数据类型提供量化的见解。

    Jul, 2020