May, 2022

通过知识蒸馏实现高效的 3D 目标检测

PDF
TL;DR本文章提出了一种使用知识蒸馏技术开发高效 3D 物体检测器的方法，并在输入分辨率降低和模型压缩方面发掘教师学生模型的差异，基于现有的 KD 方法建立了一个基准测试，提出了一种改进的 KD 流程，最后在 Waymo 数据集上进行了大量实验，实现了比教师模型更高的精度和更快的运行速度。
knowledge distillation3d object detectionefficient detectorsmodel compressionlogit kd
发现论文，激发创造
  • 三维物体检测中的表示差异感知蒸馏

    本文提出了一种新颖的表示差异感知蒸馏（RDD）方法，通过从信息瓶颈的创新角度构建我们的 RDD，该方法可以有效地减小学生和教师之间在特征和逻辑上的提议区域对的差异，从而解决了表示差异问题，并减小了紧凑学生和过参数化教师之间的性能差距。

    Aug, 2023

  • 交叉知识蒸馏：用于密集物体检测的交叉头知识蒸馏

    本文提出了一种名为 CrossKD 的知识蒸馏方法，该方法通过将学生的检测头的中间特征输出到老师的检测头，从而将跨头预测强制与老师的预测相同，以提高学生的检测性能，并在 MS COCO 上得到了验证，性能优于所有现有的目标检测方法。

    Jun, 2023

  • 多帧到单帧：用于三维物体检测的知识蒸馏

    本文提出了一种通过知识蒸馏实现基于点云进行三维物体检测的方法，该方法通过两阶段的训练流程，使得在测试时基于低质量数据的模型性能得到提升。

    Sep, 2020

  • 结构化知识蒸馏方法实现高效紧凑的多视角三维检测

    本论文提出了一种基于结构化知识蒸馏的框架，旨在提高现代视觉仅 BEV 检测模型的效率，并在 nuScenes 基准测试上表现出显著的优越性，平均改善 2.16mAP 和 2.27NDS。

    Nov, 2022

  • 稠密物体检测的区域定位蒸馏

    本文提出了一种基于本地化知识蒸馏的方法，在目标检测中通过学习有价值的本地化区域知识和确定哪些区域应该用于蒸馏来提高 AP 得分。这种简单而有效的知识蒸馏技术可以优化深度学习模型的性能。

    Feb, 2021

  • 基于点云到体素的知识蒸馏技术用于 LiDAR 语义分割

    本文提出了一种基于点到体素知识蒸馏的方法，通过将隐藏层的知识从点级别和体素级别进行转移，采用困难感知的采样策略和点 - 体素相似度蒸馏，提高了 LiDAR 语义分割任务中教师模型向学生模型的知识压缩效果，同时在两个流行的基准数据集上实现了优于现有方法的精度和速度。

    Jun, 2022

  • 跨模态、任务和阶段的知识蒸馏：用于多摄像头三维物体检测的方法

    本文提出 X^3KD，一种基于多模态、多任务、多阶段的知识蒸馏框架，通过跨任务蒸馏、跨模态特征蒸馏、对抗训练以及跨模态输出蒸馏等方式，改进了基于多摄像头图像的 3D 物体检测模型性能，最终 X^3KD 模型在 nuScenes 和 Waymo 数据集上取得了最新的最佳性能表现，并且具有推广到基于雷达的 3D 物体检测的能力。

    Mar, 2023

  • 基于排名模仿和预测引导特征仿效的目标检测知识蒸馏

    本研究针对目标检测中知识蒸馏问题，通过分析教师和学生模型行为差异提出了基于 Rank Mimicking 和 Prediction-guided Feature Imitation 的知识蒸馏方法，有效地提高了学生模型的精确度和加速度。

    Dec, 2021

  • 从 3D 到鸟瞰图的知识蒸馏用于 LiDAR 语义分割

    该研究提出了一种有效的三维（3D）到 Bird's-Eye-View（BEV）知识蒸馏方法，将丰富的知识从基于 Voxel 的模型传递到基于 BEV 的模型，该方法应用于自动驾驶领域的 LiDAR 点云分割任务中，明显提高了准确性，SemanticKITTI 数据集是该研究的实验验证平台。

    Apr, 2023

  • 目标检测的结构知识蒸馏

    本文提出了一种基于结构相似性的知识蒸馏替代方法，通过考虑特征空间的对比度、结构线索、相关性和空间依赖性，在中间特征层面进行指导。在 MSCOCO 上的实验表明，这种方法简单易行、计算开销小，同时在不同的训练方案和网络架构上都能显著提高模型性能。

    Nov, 2022