Apr, 2024

可扩展流基主动蒸馏的相机聚类

PDF
TL;DR我们提出了一个可扩展的框架，用于设计高效的轻量级视频目标检测模型，利用自训练和知识蒸馏技术。我们研究了从视频流中选择训练图像的理想方法和跨多个摄像头分享模型的效果。通过提倡一种摄像头聚类方法，我们旨在减少训练所需的模型数量，同时增加蒸馏数据集。研究结果表明，适当的摄像头聚类显著提高了蒸馏模型的准确性，超过了为每个摄像头使用不同模型或在聚合的摄像头数据上训练的通用模型的方法。
scalable frameworklightweight modelsvideo object detectionself-trainingknowledge distillation
发现论文，激发创造
  • 在线模型蒸馏以提高视频推断的效率

    该文研究使用模型蒸馏技术将低成本的语义分割模型专门应用于目标视频流，使模型接近高成本模型的准确性，并在推断运行时具有更低的成本以及更好的稳定性。

    Dec, 2018

  • 多帧到单帧：用于三维物体检测的知识蒸馏

    本文提出了一种通过知识蒸馏实现基于点云进行三维物体检测的方法，该方法通过两阶段的训练流程，使得在测试时基于低质量数据的模型性能得到提升。

    Sep, 2020

  • 面向广义多阶段聚类：多视角自蒸馏

    本文提出了一种新型的多阶段深度多视图聚类框架，引入多视图自我蒸馏（DistilMVC）来提取标签分布的暗知识，从而消除过度自信的伪标签的影响，提高模型的泛化能力，并通过对比学习来探索多个视图的常见语义，通过最大化视图之间的互信息来获得伪标签，同时通过教师网络将伪标签蒸馏为暗知识，提升学生网络的预测能力，实验结果表明，与现有方法相比，我们的方法在真实多视图数据集上具有更好的聚类性能。

    Oct, 2023

  • 多模态和多角度蒸馏用于足球场上的实时球员检测

    本研究设计了一种多摄像头辅助学习系统，使用独特的数据增强和运动检测算法，利用热成像相机和鱼眼相机检测运动员在足球场上的位置，实现了对公共体育设施使用情况进行实时监控和评估。

    Apr, 2020

  • 结构化知识蒸馏方法实现高效紧凑的多视角三维检测

    本论文提出了一种基于结构化知识蒸馏的框架，旨在提高现代视觉仅 BEV 检测模型的效率，并在 nuScenes 基准测试上表现出显著的优越性，平均改善 2.16mAP 和 2.27NDS。

    Nov, 2022

  • 在线蒸馏实现的大规模分布式神经网络训练

    本文介绍了一种相对简单易用的基于在线蒸馏的神经网络训练优化方法，该方法使得我们能够在使用大规模数据集时提升模型精度并提高训练速度，同时在成本较低的情况下显著提高模型的预测可复现性。

    Apr, 2018

  • 弱监督视频异常检测的聚合知识蒸馏

    通过将多个骨干模型的聚合表示进行知识蒸馏，我们提出了一种相对简单的模型，达到了最先进的性能。我们的方法在多个基准数据集上取得了显著提高，尤其是在 UCF-Crime、ShanghaiTech 和 XD-Violence 数据集上，分别实现了 1.36％、0.78％和 7.02％的显著改进。

    Jun, 2024

  • 高效在线主动蒸馏的查询策略

    通过评估一组查询策略，在人体姿势估计应用中，通过两种方法（离线方法和基于知识蒸馏的在线评估）评估训练过程中所选择的帧对训练结果的影响，证明了在实时场景中有效地将边缘轻量级模型适应于新环境的训练的可能性。

    Sep, 2023

  • 多教师渐进蒸馏的轻量级目标检测学习

    对于计算和内存资源有限的感知系统，我们提出了一种简单但非常有效的序列化方法来通过知识蒸馏来提高轻量级分类模型的性能，并成功将基于 Transformer 的教师检测器的知识转化到基于卷积的学生检测器上，从而显著提升了 MS COCO 基准测试上 RetinaNet 和 Mask R-CNN 的性能。

    Aug, 2023

  • 视频分类中的分阶段知识蒸馏：通过补充性弱监督框架对学生进度进行协调

    本文提出了针对视频分类的基于子阶段学习的知识蒸馏框架，采用渐进级联训练方法和伪标签优化策略来提高效率和准确性，并在多个真实和模拟数据集上进行了广泛的实验表明其优于现有的知识蒸馏方法。

    Jul, 2023