ACLJun, 2023

使用转移的 Shapley 值对大语言模型进行微调的数据选择

TL;DR提出了一种名为 TS-DShapley 的算法,通过一种高效的基于采样的方法和一种数据价值信息的传递方法,大大减少了 Shapley 基于数据评估的计算成本,可以对大型预训练语言模型进行微调,并在基准自然语言理解(NLU)数据集上提升了语言模型的性能。