BriefGPT.xyz
大模型
Ask
alpha
关键词
data-free approach
搜索结果 - 2
数据无关模型压缩的双判别器对抗蒸馏
提出了一种名为 Dual Discriminator Adversarial Distillation (DDAD) 的新型无数据的知识蒸馏方法,通过生成样本,训练紧凑的学生网络,使其接近其教师网络,从而在计算机视觉任务中实现了高效的神经网
→
PDF
3 years ago
AAAI
软目标定向传输集成的无数据知识蒸馏
本研究提出了一个基于多元正态分布的数据自由知识蒸馏方法,该方法从过度参数化神经网络中模拟中间特征空间并利用软目标标签生成伪样本以作为转换集。使用这些合成的转移集训练多个学生网络,表现出与使用原始训练集和其他无数据知识蒸馏方法训练的网络相当的
→
PDF
3 years ago
Prev
Next