ECCVMar, 2022

基于预测引导的稠密物体检测蒸馏

PDF
TL;DR本文提出了一种名为 PGD 的预测引导蒸馏方法，该方法可以识别教师模型的最具信息量的特征，从而在小型、廉价的检测模型中提高检测性能。使用 ResNet-101 和 ResNet-50 作为教师和学生骨架，在 COCO 和 CrowdHuman 数据集上实现了 + 3.1% 到 + 4.6% 的 AP 提高。
object detectionknowledge distillationprediction-guided distillationteacher modelperformance improvement
发现论文，激发创造
  • 使用分岔的思维链在语言模型中进行微调，提升推理能力和自我纠正

    通过要求模型在单一推理步骤中比较多个推理链，我们提出了一种新方法 Divergent CoT (DCoT)，进一步提高模型性能。通过一系列实验证明，DCoT 数据集上的微调在各种推理类型的任务上提高了模型的性能，无论模型的规模是多少。同时，我们通过经验和手动评估的结合，还表明这些性能提升源于模型在单一推理步骤中生成多个不同的推理链，表明语言模型具备自我纠正的能力。

    Jul, 2024

  • MLKD-BERT：预训练语言模型的多层知识蒸馏

    我们提出了一种新颖的知识蒸馏方法 MLKD-BERT，在教师 - 学生框架中蒸馏多层级知识。对 GLUE 基准和提取型问答任务的大量实验表明，我们的方法在 BERT 上胜过了最先进的知识蒸馏方法。此外，MLKD-BERT 可以灵活设置学生注意力头数，能够显著减少推理时间并且性能损失很小。

    Jul, 2024

  • 基于编码率度量的深度度量学习抗塌陷损失

    我们提出了一种名为反崩溃损失函数的新方法，该方法通过最大化样本特征或类别代理的平均编码率来提高嵌入空间中特征聚类的稀疏性，以防止特征崩溃并促进模型的泛化性能。与现有的前沿方法相比，我们的方法在基准数据集上进行的综合实验表明，其表现优于现有的最先进方法。大量实验还验证了我们的方法在防止嵌入空间崩溃和促进泛化性能方面的有效性。

    Jul, 2024

  • 大型语言模型的知识蒸馏综述：方法、评估与应用

    这篇论文通过从方法、评估和应用三个方面对专门针对大型语言模型的知识蒸馏技术进行了全面调查，将方法分为白盒知识蒸馏和黑盒知识蒸馏，并探讨了不同蒸馏方法之间的评估任务和蒸馏效果，并提出了未来研究的方向。通过深入了解最新进展和实际应用，这篇综述为研究人员提供了有价值的资源，为这一领域的持续进展铺平了道路。

    Jul, 2024

  • 面向脑 - 眼 - 计算机的小目标检测的自适应模态平衡在线知识蒸馏

    利用脑机接口从人脑中提取高级认知，结合具备高效特征提取能力的计算机视觉技术，可实现对航空图像中微弱目标更强大、更准确的检测。本文首先构建了基于脑眼计算机的航空图像目标检测系统，通过基于眼动追踪的慢速串联视觉呈现范式在脑电图中激发事件相关电位（ERP）信号，并将眼动数据和图像数据构建成脑电图 - 图像数据对。然后，提出了一种自适应模态平衡的在线知识蒸馏（AMBOKD）方法，用于利用脑电图 - 图像数据识别微弱目标。AMBOKD 利用多头注意力模块将脑电图和图像特征融合，构建具备全面特征的新模态。为了提升融合模态的性能和鲁棒能力，采用端到端在线知识蒸馏实现模态之间的同时训练和相互学习。在学习过程中，提出了一种自适应模态平衡模块，通过动态调整各种模态的重要性权重和训练梯度来确保多模态平衡。通过与现有先进方法的比较，验证了我们方法的有效性和优越性。此外，对公共数据集进行的实验和在真实场景中的系统验证也证明了提出的系统和设计方法的可靠性和实用性。

    Jul, 2024

  • 用于高效少样本个性化目标检测的跨架构辅助特征空间转换

    我们设计了一种称为 AuXFT 的少样本 IPOD 策略，通过引入一种条件粗粒度到细粒度的少样本学习器，改善了现有的对象检测器的个性化效果，同时通过 Translator 模块生成辅助特征空间，实现了个性化而不降低检测器的性能。我们在三个公开数据集和一个自行设计的 IPOD 基准测试集上验证了 AuXFT，在所有考虑的情境中都取得了显著的增益，实现了极佳的时间复杂度和性能的权衡：AuXFT 在仅占推理时间的 32％、VRAM 的 13％和模型尺寸的 19％的情况下达到其上限的 80％性能。

    Jul, 2024

  • AdaDistill：用于深度人脸识别的自适应知识蒸馏

    使用自适应知识蒸馏方法 AdaDistill 在深度人脸识别中，通过利用高性能教师模型的知识来提高紧凑学生模型的性能。AdaDistill 将知识蒸馏概念嵌入到带有蒸馏类中心的边际惩罚 softmax 损失中，通过在训练迭代中控制学生的学习能力进展来相对调整蒸馏的知识，无需调整任何超参数。大量实验证明了 AdaDistill 可以增强学生的判别学习能力，并在多个具有挑战性的基准测试中展示了对各种最先进竞争者的优越性。

    Jul, 2024

  • 对象检测的形式验证

    利用形式验证来确保计算机视觉模型的安全性，针对图像分类进行了拓展，提出一种一般性的方案来证明物体检测模型的鲁棒性，并提供了与最先进的验证工具兼容的实现策略。

    Jul, 2024

  • DroBoost: 一种智能评分和模型增强方法用于无人机检测

    无人机检测是一项具有挑战性的物体检测任务，其可见性条件和图像质量可能不利，由于复杂背景、小的可见物体和难以区分的物体而使检测变得困难。该研究提出了一种基于 YOLOv5 的无人机检测方法，利用实际和合成数据以及基于卡尔曼滤波的追踪器跟踪检测并增加其置信度，同时通过结合多种改进策略来提高检测性能。该技术在无人机与鸟类对抗竞赛中获得了第一名。

    Jun, 2024

  • CSAKD: 跨自注意力知识蒸馏用于高光谱和多光谱图像融合

    提出了一种新颖的知识蒸馏框架以实现低分辨率高光谱图像的超分辨率，该框架通过使用交叉层残差聚合模块增强效率，同时从低分辨率高光谱图像和高分辨率多光谱图像中提取联合和独立特征，并采用交叉自注意力融合模块适应性地融合这些特征，以提高重构的高分辨率高光谱图像的空间和光谱质量。

    Jun, 2024