distilling knowledge | BriefGPT

关键词distilling knowledge

搜索结果 - 6

弱监督视频异常检测的聚合知识蒸馏
通过将多个骨干模型的聚合表示进行知识蒸馏，我们提出了一种相对简单的模型，达到了最先进的性能。我们的方法在多个基准数据集上取得了显著提高，尤其是在 UCF-Crime、ShanghaiTech 和 XD-Violence 数据集上，分别实现了
PDFa month ago
EMNLP民主化推理能力：从大型语言模型的个性化学习
通过多轮互动学习范式和自我反思学习，我们提出了一种定制化学习方法，从而将推理能力传授给较小的语言模型，以促进推理能力的开放和普及。
PDF8 months ago
稀疏双峰下反药物的追求
在能效方案中，找到深度学习模型的最佳大小非常重要且具有广泛的影响。本文的研究目标是高效地寻找最佳折中方法，针对稀疏双下降现象提出了解决方案，包括使用 L2 正则化方法以及通过知识蒸馏来规范学生模型，实验结果表明这些方法可以避免该现象的发生。
PDF10 months ago
ICCV累积空间知识蒸馏用于视觉 Transformers
该研究提出了 Cumulative Spatial Knowledge Distillation (CSKD) 方法，它能够在不引入中间特征的情况下，从相应的 CNN 空间响应中将空间上的知识传递到 ViT 的所有补丁令牌，并在训练过程中利
PDFa year ago
ICML利用加权平均和多样化扰动改进集成蒸馏
该论文介绍了一种基于权重平均技术和扰动策略的集成神经网络蒸馏方法，有效地将多个教师网络的功能多样性吸收到一个适合资源受限环境中使用的学生网络中，并在多个图像分类任务上显著提高了性能。
PDF2 years ago
使用内部蒸馏的背包修剪
本研究提出了一种基于背包问题和内部知识蒸馏的神经网络剪枝方法，该方法能够在优化被剪枝网络的最终准确性的同时，从过度参数化的母网络的内部层中提取知识，并使用块分组方法来处理复杂的网络结构。该方法在 ImageNet、CIFAR-10 和 CI
PDF4 years ago