CVPRJun, 2024

Hydra-MDP: 多模态、多目标的端到端计划生成的 Hydra 蒸馏

PDF
TL;DRHydra-MDP 是一种使用多个教师模型的新范例，使用来自人类和基于规则的教师的知识蒸馏来训练学生模型，具有多头解码器以学习适应各种评估指标的多样化轨迹候选，该方法在 Navsim 挑战中获得了第一名，并在各种驾驶环境和条件下显著提高了泛化能力。
hydra-mdpteacher-student modelknowledge distillationtrajectory candidatesnavsim challenge
发现论文，激发创造
  • 元学习的自适应多教师知识蒸馏

    本文提出了自适应多教师知识蒸馏与元学习，以指导学生从量身定制的集成教师中获得适当的知识。通过元权重网络的辅助，将输出层和中间层中多样但兼容的教师知识联合利用，以增强学生的表现。在多个基准数据集上进行的广泛实验验证了本方法的有效性和灵活性。

    Jun, 2023

  • 释放力量：多模态大型语言模型的竞争蒸馏

    提出了一种创新的 Competitive Multi-modal Distillation（CoMD）框架，捕捉学生模型和教师模型之间的双向反馈，并不断更新学生模型学到的多模态能力，研究结果表明，我们的知识迁移方法在各种数据集上稳定提升了学生模型的能力，经过四次蒸馏后，7B 大小的学生模型在 ScienceQA 和 LLaVA Test 数据集上超过了当前最先进的 LLaVA-13B 模型，在零样本设置下也优于其他强基线模型。

    Nov, 2023

  • 自适应多教师多层级知识蒸馏

    我们提出了基于多教师多层知识蒸馏学习框架的自适应学习方法，该方法通过将每个教师与潜在表示相关联，自适应地学习实例级教师重要性权重，从而获取集成的高级知识，并通过多组提示策略从多个教师处汇集中间级知识。实验表明，该方法确保学生比强竞争者取得了更好的性能。

    Mar, 2021

  • 双重策略蒸馏

    本文提出了一种双学习者的框架，名为双重策略蒸馏（DPD），其中两个学习者在同一环境中运行，以探索环境的不同方面并相互提取知识以增强他们的学习，并对几个连续控制任务进行实验，表明该框架可以在没有使用昂贵的教师模型的情况下，在具有学习基础的代理和函数逼近的情况下获得优越的性能。

    Jun, 2020

  • 迈向端到端自动驾驶运动规划器压缩的便携性

    本文提出 PlanKD，这是第一个专门用于压缩端到端运动规划器的知识蒸馏框架，通过信息瓶颈策略和安全感知的逐点蒸馏模块，可以显著提升较小规模规划器的性能并减少参考时间。

    Mar, 2024

  • 情感识别的解耦多模态蒸馏

    本文提出了一种去耦合的多模态蒸馏（DMD）方法，通过使用图蒸馏单元（GD-Unit）和构建动态图来实现灵活和自适应的多模态知识蒸馏，以提高每种模态的辨别特征。实验结果表明，DMD 方法优于最先进的 MER 方法，并且在 DMD 中的图边展现出与无关 / 专用空间以及有意义的分布模式。

    Mar, 2023

  • I$^2$MD：带有内外模态相互蒸馏的三维动作表征学习

    介绍了一种新的互模态和内模态的相互蒸馏框架，通过改进跨模态交互和解决相似样本干扰问题，实现了自监督学习，在三个数据集上取得了新的记录。

    Oct, 2023

  • 适应性操作的独立领域智能体体系结构在不断变化的开放环境中

    提出了一种名为 HYDRA 的框架，通过引入视觉推理、任务选择和行动执行模块，以及一种新颖的元推理过程，使模型引导的 agent 能够在混合离散 - 连续环境中自动检测、理解并适应其演化，实现对复杂环境的闭环交互。

    Jun, 2023

  • 双向蒸馏的多视角特征表示在对话生成中的应用

    本文提出一种基于知识蒸馏的对话模型训练框架，通过分组多任务学习、多视角特征蒸馏和双向蒸馏等策略，找到多数据集共性知识以提高模型泛化性能。实验结果表明该框架可以有效地提高模型的泛化性能，而不影响训练效率。

    Feb, 2021

  • MSD: 多模态理解中的显著性感知知识蒸馏

    研究对知识蒸馏在多模态数据集上的应用，提出了一种多模态知识蒸馏框架 MSD，其中引入辅助损失项和基于显著度得分的加权方案以及基于权重学习的方法，实验结果表明 MSD 比 KD 在四个多模态数据集上表现更好。

    Jan, 2021