student model | BriefGPT - AI 论文速递

关键词student model

搜索结果 - 46

基于协同稀疏化的 Top-N 推荐协同学习
本文提出了一种新的知识蒸馏模型 —— 协作蒸馏模型 (CD)，该模型采用概率排序感知采样、转换误差函数以处理反馈不足以及提供两个训练方法 (即教师指导和学生指导)，在推荐领域中取得了 2.7-33.2% 和 2.7-29.1% 的命中率 (
PDF5 years ago
CVPR通过标签平滑正则化重新审视知识蒸馏
本文挑战了使用强大的 teacher model 教授弱 student model 的共识，详细阐述了 KD 和 label smoothing regularization 之间的关系，提出了 Teacher-free Knowledg
PDF5 years ago
DAS3H: 建模学生学习和遗忘以优化技能分布式练习的调度
文章研究了基于多技能的记忆优化问题，并提出了一种适用于该问题的学生学习和遗忘模型 DAS3H，该模型结合了过去练习对技能的时空分布的考虑，能更好地预测学生表现并提高学习效果。
PDF5 years ago
CVPR学生成为大师：联合场景解析、深度估计等知识融合
本论文提出一种新的深度学习模型重用任务，利用预训练的教师模型在不需要人工标注的情况下训练一个轻量级和通用的学生模型，通过将合并特征投影到每个教师的领域并计算损失来学习学生模型。该方案在多项基准测试中实现了非常鼓舞人心的结果，甚至超过了教师模
PDF5 years ago
AAAI综合分类知识的融合
本研究提出了一种名为知识聚合的新型模型复用任务，旨在从多个训练好的教师网络中提取知识，学习一种能够处理综合分类的轻量级学生模型，取得了很好的结果。
PDF6 years ago
KDD排名蒸馏：学习高性能紧凑排名模型的推荐系统
在学习排名问题时，我们提出了一种基于知识蒸馏的技术，称为 RD，通过使用更小的模型在保持模型性能的同时提高在线推理的效率，该技术在公共数据集和推荐模型上实现了旨在设计的目的。
PDF6 years ago