May, 2024

利用知识蒸馏在多个遥感数据集上进行部分多任务学习

PDF
TL;DR本文旨在提出一种基于知识蒸馏的部分多任务学习方法，以克服在缺乏所有任务标注的情况下进行全面多任务学习的次优性，并通过在航空图像中进行的对象检测和语义分割等语义任务的实验验证了该方法的有效性。
发现论文，激发创造
  • 数据利用：部分标注数据上的对象检测和语义分割的多任务学习

    本文研究了多任务数据和部分标注的情况下，联合学习物体检测和语义分割这两个最流行的视觉问题，通过知识蒸馏实现多任务优化，并通过实验结果表明了多任务学习和知识蒸馏在性能上相对于单任务学习和完全监督场景的优势。

    Nov, 2023

  • 从部分注释的数据中学习多个密集预测任务

    本研究提出了一种标签高效的方法，针对部分注释的数据（即每个图像不都有所有任务标签），在多个密集预测任务上联合学习，通过保留输入图像的高级信息，并成功利用任务关系对多任务学习进行监督学习的多任务训练程序。我们严格证明了我们的方法可以有效地利用具有未标记任务的图像，并且在三个标准基准测试中优于现有的半监督学习方法和相关方法。

    Nov, 2021

  • 目标检测的知识蒸馏：从通用到遥感数据集

    在遥感环境下评估了各种现成的目标检测知识蒸馏方法，比较了其性能和相互关系，并确认在遥感数据集上结果聚合和交叉验证的重要性。

    Jul, 2023

  • 多标签知识蒸馏

    提出一种新颖的多标签知识蒸馏方法，通过将多标签学习问题分解为一组二元分类问题，并利用标签间嵌入的结构信息来增强学习特征表示的独特性，避免标签间的知识对抗，从而在多个基准数据集上实现了优越的性能。

    Aug, 2023

  • 基于弱监督检测知识蒸馏的多标签图像分类

    本文提出了一种基于深度学习并利用弱监督检测模型去除物体标注信息的多标签图像分类方法，该方法能有效提高性能并保持高效。实验证明该方法在两个大型数据集（MS-COCO 和 NUS-WIDE）上均优于现有的先进方法。

    Sep, 2018

  • 多任务学习的知识蒸馏

    本文提出了一种基于知识蒸馏的多任务学习方法。通过先学习任务特定的模型，再学习多任务模型，该方法可以解决多任务学习中的不平衡问题，以实现更好的整体性能。

    Jul, 2020

  • 多任务推荐中的跨任务知识蒸馏

    提出了一种交叉任务知识蒸馏框架，通过引入辅助任务和校准蒸馏方法，解决了多任务学习中涉及的任务冲突、不一致和同步优化的问题，在实现细粒度推荐、跨任务知识转移等方面有显著效果。

    Feb, 2022

  • 基于跨模型半监督学习的道路检测的知识蒸馏

    知识蒸馏和半监督学习方法相结合的半监督学习知识蒸馏（SSLKD）方法在道路分割应用中表现出显著的学生模型性能提升，超过传统半监督学习方法的效果。

    Feb, 2024

  • 区域感知分布对比：一种新的多任务部分监督学习方法

    多任务密集预测的研究中，我们通过引入 Segment Anything Model (SAM) 和基于高斯分布的区域表示，解决了部分标注数据、局部对齐和跨任务关系等挑战，提高了在部分监督多任务密集预测场景中的性能。

    Mar, 2024

  • 语义分割中的增量学习知识蒸馏

    本文着重介绍了如何应用知识蒸馏技术来处理增量学习的语义分割问题。经过在 Pascal VOC2012 和 MSRC-v2 数据集上的实验，该方法在多个增量学习场景中表现出显著的有效性。

    Nov, 2019