Nov, 2023
FreeKD: 语义频率提示下的知识蒸馏
FreeKD: Knowledge Distillation via Semantic Frequency Prompt
Yuan Zhang, Tao Huang, Jiaming Liu, Tao Jiang, Kuan Cheng...
TL;DR使用频率领域的知识蒸馏方法进行密集预测任务时,Frequency Knowledge Distillation(FreeKD)在吸收语义频率上下文、定位像素兴趣点和提供高阶空间增强等方面取得了比基于空间的蒸馏方法更好的效果。