Apr, 2023

先知式教师引导的长尾分布学习

PDF
TL;DR本文提出了一种创新的长尾学习范式，通过设计一个精心制作的 “先知” 教师，指导深度卷积网络的学习，以在长尾数据集上进行分类。实验结果表明，该方法在解决长尾数据集中类别知识有限的问题方面具有很大的潜力。
deep long-tailed learningclass-balancing strategiesprophetic teacherprior knowledgelong-tailed datasets
发现论文，激发创造
  • 深度长尾学习综述

    本文系统总结了深度长尾学习的最新进展，围绕着类别再平衡、信息增强和模块改进三个主要类别对相关方法进行详细探讨，并通过提出的相对准确度评估指标对最先进的方法进行了实证分析，为深度长尾学习的应用和未来研究方向提供了重要的参考。

    Oct, 2021

  • 长尾识别的均匀分布类别原型引导视觉语言框架

    研究论文提出了一种基于统一类别原型导向的视觉语言框架，用于有效缓解数据不平衡引起的特征空间偏差，并通过去除无关噪声文本和增强关键属性信息的模块提高模型的鲁棒性，同时通过类特征原型导向分类器解决学习分类器的正向偏差问题，从而在长尾学习中实现了比之前方法更优越的性能。

    Aug, 2023

  • 长尾识别中的新型类别发现

    基于等角原型表示的自适应自标记策略，通过解决弛化的最优传输问题，更有效地发现不平衡的新类别，从而有效减轻已知和新类别学习中的偏差，并在 CIFAR100、ImageNet100、Herbarium19 和大规模 iNaturalist18 数据集上取得了卓越的结果。

    Aug, 2023

  • 通过协同专家实现图分类的长尾识别

    通过协同多专家学习 (CoMe) 提出了一种新的长尾图级分类框架，从头部和尾部类的视角发展出平衡对比学习和基于难类挖掘的个体专家分类器训练，并在多专家框架中进行门控融合和解耦知识蒸馏。通过在七个广泛应用的基准数据集上进行全面实验，证明了我们的 CoMe 方法相对于现有技术基准的优势。

    Aug, 2023

  • 长尾识别的表示与分类器解耦

    本研究中，我们解耦学习过程，系统地探索不同平衡策略如何影响长尾识别的表示学习和分类器。我们的发现表明，数据不平衡在学习高质量表示方面可能不是问题，在使用最简单的实例平衡抽样进行学习表示的情况下，只需调整分类器就能实现强大的长尾识别能力，甚至可以胜过精心设计的损失、采样策略以及使用记忆组件的复杂模块。

    Oct, 2019

  • 通过对预训练模型进行校准，在二进制网络上进行长尾识别

    使用高度资源有效的二进制神经网络作为骨干结构来学习长尾分布，通过校准和蒸馏框架利用平衡数据集上的预训练全精度模型作为教师，结合对目标函数术语的对抗平衡和高效的多分辨率学习方案，在 15 个数据集上对最新的长尾数据集进行了最大规模的实证研究，结果显示我们的方法在平均上大幅优于现有技术（>14.33%）。

    Mar, 2024

  • 路由多样分布感知专家实现长尾识别

    本文提出了一种新型的长尾分类器 RIDE，通过多个专家、分布感知多样性损失以及动态专家路由模块来减小模型方差、缩小模型偏差与尾部的差距，相较于现有的方法，在 CIFAR100-LT、ImageNet-LT 和 iNaturalist 2018 基准测试上性能提高了 5％到 7％，并可应用于各种主干网络和长尾算法，具有较高的普适性和一致性性能。

    Oct, 2020

  • 标签噪声下的鲁棒长尾学习

    研究了在长尾标签分布下标签噪声问题，提出了一种新的原型噪声检测方法及一个鲁棒的框架，该框架通过软伪标签技术和半监督学习算法进一步提高了泛化性能，并且在基准和真实数据集上表现优于现有基线模型，尤其是比 DivideMix 模型测试精度高出 3％。

    Aug, 2021

  • 一种基于视觉 - 语言模型的简单长尾识别基准线

    BALLAD 利用对比学习方法，结合视觉感知与语言理解，实现对于长尾数据集的视觉识别，并在大量实验中获得比竞争性基线更优异的表现。

    Nov, 2021

  • 类平衡蒸馏在长尾视觉识别中的应用

    提出了一种新的框架 CBD，利用知识蒸馏增强特征表示，通过使用类平衡采样，第二阶段的训练使得特征表示能够在少数类上进化，可以自然的适用多个 Teachers，并在 ImageNet-LT，iNaturalist17 和 iNaturalist18 数据集上取得比现有技术更好的性能。

    Apr, 2021