May, 2021
对比模型反演用于无数据知识蒸馏
Contrastive Model Inversion for Data-Free Knowledge Distillation
Gongfan Fang, Jie Song, Xinchao Wang, Chengchao Shen, Xingen Wang...
TL;DR本文提出对比模型反演(Contrastive Model Inversion)来对抗由现有反演方法所引起的数据多样性缺失问题,实现更高的数据多样性从而提高实例区分度及在知识蒸馏中的性能表现。