teacher-student networks | BriefGPT

关键词teacher-student networks

搜索结果 - 5

基于教师 - 学生框架的实例依赖噪声伪标签校正
通过基于新的师生网络架构 P-LC（伪标签校正）的方法，重新分配每个图像的标签，实现了对复杂噪声环境下深度学习模型的改进和性能提升，并引入噪声水平估计来评估模型性能和指导数据清洗流程。
PDF7 months ago
AAAI深度人脸识别的分组知识蒸馏
本文针对面部识别中 logits 蒸馏的性能较差问题，提出分组知识蒸馏算法组（GKD），通过分割 logits 并将蒸馏分为主要知识，次要知识和二进制知识，仅保留主要知识和二进制处理，忽略次要知识，从而提高轻量级学生模型的性能
PDFa year ago
EMNLP自协同去噪学习提升远程监督命名实体识别
本文提出一种名为 “自我协同去噪学习” 的鲁棒学习模式，利用两个教师 - 学生网络相互学习进行标签去噪，以应对远程监督命名实体识别中的标签噪声问题。该方法在五个真实世界数据集上的实验结果表明其优于当前 DS-NER 去噪方法。
PDF3 years ago
IJCAI基于图一致性的均值教学方法用于无监督领域自适应人员再识别
本文提出了基于图一致性的平均教学（GCMT）方法，用于解决师生网络之间选择样本对的对比学习过程中的问题，并综合不同教师网络的相似性关系来有效优化学生网络的表示学习。在三个数据集上的实验证明，相对于现有方法，GCMT 在多教师和学生网络中均
PDF3 years ago
ICLR神经注意力蒸馏：从深度神经网络中消除后门触发器
本文提出一种新的神经网络注意力蒸馏（NAD）防御框架，旨在通过训练干净数据子集的教师网络来指导含有后门的学生网络微调，以消除后门触发器，本文经验性地展示了 NAD 可有效使用仅占 5％的清洁训练数据消除后门触发器。
PDF3 years ago