BriefGPT.xyz
大模型
Ask
alpha
关键词
ensemble teacher
搜索结果 - 2
元学习的自适应多教师知识蒸馏
本文提出了自适应多教师知识蒸馏与元学习,以指导学生从量身定制的集成教师中获得适当的知识。通过元权重网络的辅助,将输出层和中间层中多样但兼容的教师知识联合利用,以增强学生的表现。在多个基准数据集上进行的广泛实验验证了本方法的有效性和灵活性。
PDF
a year ago
在线知识蒸馏的同行协作学习
该论文提出了一种名为 “Peer Collaborative Learning” 的在线知识蒸馏方法,该方法能够将在线集成和网络协作融入一个统一的框架中,并在 CIFAR-10,CIFAR-100 和 ImageNet 等数据集上得到了验证
→
PDF
4 years ago
Prev
Next