May, 2024

跨领域知识蒸馏在低分辨率人体姿势估计中的应用

PDF
TL;DR通过知识蒸馏实现不同分辨率模型的性能提升，包括构建一个跨领域知识蒸馏框架，以及使用尺度自适应的投影仪集合模块来空间对齐输入分辨率不同的模型的特征图，进一步通过交叉类别对齐模块和从易到难的训练策略提高蒸馏性能。在 MPII 和 COCO 两个常见基准数据集上进行了大量实验证明了我们方法的有效性和效率。
发现论文，激发创造
  • 在线知识蒸馏用于高效姿态估计

    本文提出了一种新型的在线知识蒸馏方法 OKDHP，通过多分支网络和特征聚合单元以及像素级 Kullback-Leibler 散度来保证人体姿态估计的效率和准确性。实验结果表明，该方法在 MPII 和 COCO 数据集上表现良好。

    Aug, 2021

  • 低分辨率检测的多尺度对齐蒸馏

    使用知识蒸馏技术提高低分辨率模型性能，同时采用对齐多尺度训练方法与特征级融合技术，方法在目标检测任务中表现优异。

    Sep, 2021

  • 交叉知识蒸馏：用于密集物体检测的交叉头知识蒸馏

    本文提出了一种名为 CrossKD 的知识蒸馏方法，该方法通过将学生的检测头的中间特征输出到老师的检测头，从而将跨头预测强制与老师的预测相同，以提高学生的检测性能，并在 MS COCO 上得到了验证，性能优于所有现有的目标检测方法。

    Jun, 2023

  • 基于 3D 增强的对比知识蒸馏，用于基于图像的物体位姿估计

    该研究论文提出了一种基于图像的物体姿态估计方法，利用多模态方法学习的 3D 知识通过对比知识蒸馏框架有效地转移给单模态模型，使其在没有 3D 信息的情况下提升物体姿态估计准确率，实验证明了该方法的有效性。

    Jun, 2022

  • 跨模态知识蒸馏用于动作识别

    研究如何将针对 RGB 视频训练的行动识别网络适应于识别 3D 人体姿势序列这样的另一个模态，提出了一种基于互相学习的小型学生网络集成和交叉模态知识蒸馏的方法，使得几乎达到了使用完全监督训练的学生网络的精度。

    Oct, 2019

  • 缓解人类水平转移：多人姿态估计的稳健领域自适应方法

    本文提出了一种新颖的领域适应方法，用于多人姿态估计，以进行人类级别的拓扑结构对齐和细粒度特征对齐。通过三个模块实现：交叉注意力特征对齐（CAFA），域内结构自适应（ISA）和域间人 - 拓扑对齐（IHTA）模块，证明了该算法优于现有最佳算法。

    Aug, 2020

  • 跨领域模型压缩中通用和联合知识的提取

    在跨领域模型压缩方面，我们提出了一种新颖的端到端框架，称为 Universal and joint knowledge distillation (UNI-KD)，通过对抗学习方案将源域和目标域之间的通用特征级知识和共享的对数级知识从教师模型传递给学生模型，实现了模型的压缩。在四个时间序列数据集上进行的广泛实验结果表明，我们提出的方法优于最先进的基准模型。

    Jul, 2023

  • 不同领域之间的直接蒸馏

    基于知识蒸馏，提出了一种新的单阶段方法 “不同领域之间的直接蒸馏”(4Ds)，通过可学习的适配器和融合 - 激活机制，实现了从教师网络到学生网络的跨领域知识转移，取得了可靠的学生网络性能并超过了现有方法。

    Jan, 2024

  • 跨层蒸馏和特征去噪用于跨领域少样本分类

    我们通过在训练阶段让目标领域中的一小部分无标签图像可访问，解决基于跨域 few-shot 分类的问题，同时通过指导网络的浅层学习更高级别的信息的跨层级知识蒸馏方法提取更有区分度的特征，以及通过特征去噪操作减少特征冗余并减轻过拟合，我们的方法在 BSCD-FSL 基准测试中平均超过了先前的最优方法 Dynamic-Distillation 在 1-shot 和 5-shot 分类任务上分别提升了 5.44% 和 1.37%。

    Nov, 2023

  • 视频中高效姿态估计的动态核蒸馏

    提出了一种基于 DKD 模型的人体姿势估计方法，通过利用时间线索进行姿势核的在线蒸馏和通过简单的卷积计算实现当前帧和姿势核之间的匹配，从而实现对小网络姿态估计的显著提升。

    Aug, 2019