BriefGPT.xyz
Ask
alpha
关键词
inheritance and exploration
搜索结果 - 1
CVPR
重访知识蒸馏:一个继承和探索框架
本文提出了一种新颖的知识蒸馏策略 -- 继承与探索知识蒸馏框架 (IE-KD),它将学生模型分成两个部分,继承和探索。继承部分通过相似度损失将已有的知识从教师模型转移到学生模型,而探索部分通过不相似度损失鼓励学生模型学习与继承部分不同的特征
→
PDF
3 years ago
Prev
Next