ACLMay, 2023
依据学生的学习水平定制指导方案提升知识蒸馏
Tailoring Instructions to Student's Learning Levels Boosts Knowledge Distillation
Yuxin Ren, Zihan Zhong, Xingjian Shi, Yi Zhu, Chun Yuan...
TL;DR本文提出了一种名为 LGTM 的有效教师培训技术,该技术通过引入蒸馏影响概念来确定每个训练样本对学生泛化能力的影响,通过优先选择可能增强学生泛化能力的样本,在 GLUE 基准测试数据集的 6 项文本分类任务中,LGTM 比其他 10 种常见的知识蒸馏基线表现更好。