Feb, 2020
特征图级别在线对抗知识蒸馏
Feature-map-level Online Adversarial Knowledge Distillation
Inseop Chung, SeongUk Park, Jangho Kim, Nojun Kwak
TL;DR本文提出了一种在线知识蒸馏方法,在对抗训练框架下同时传输分类概率和特征图的知识,并使用判别器区分不同网络的特征图分布进行训练,比传统的直接对齐方法(如 L1)更适用于在线蒸馏,在多个网络之间引入循环学习方案,实验表明该方法的性能显著提高,特别是在训练一对小型和大型网络的情况下。