CVPRApr, 2019
学生成为大师:联合场景解析、深度估计等知识融合
Student Becoming the Master: Knowledge Amalgamation for Joint Scene Parsing, Depth Estimation, and More
Jingwen Ye, Yixin Ji, Xinchao Wang, Kairi Ou, Dapeng Tao...
TL;DR本论文提出一种新的深度学习模型重用任务,利用预训练的教师模型在不需要人工标注的情况下训练一个轻量级和通用的学生模型,通过将合并特征投影到每个教师的领域并计算损失来学习学生模型。该方案在多项基准测试中实现了非常鼓舞人心的结果,甚至超过了教师模型在其自己的专业领域中的表现。