May, 2024

利用层次化标签分布变化进行测试无关的长尾识别

PDF
TL;DR探索了测试不可知的长尾识别，通过引入多元专家模型和针对本地变异的 Dirichlet 元分布来捕捉测试标签分布的全局和局部变化，从而提高模型的泛化能力。
test-agnostic long-tail recognitionlabel distributionmixture-of-expertdirichlet meta-distributionvariance-based regularization
发现论文，激发创造
  • 自监控多元专家聚合在测试不敏感的长尾识别中

    本文提出了一种新的方法来解决训练数据分布为长尾分布，同时测试数据分布为未知分布的实用问题，该方法是通过利用自监督来聚合多个从单个长尾数据集中训练出来的技能不同的专家，并理论上证明了该自监督策略具有模拟无关测试类分布的能力。

    Jul, 2021

  • 路由多样分布感知专家实现长尾识别

    本文提出了一种新型的长尾分类器 RIDE，通过多个专家、分布感知多样性损失以及动态专家路由模块来减小模型方差、缩小模型偏差与尾部的差距，相较于现有的方法，在 CIFAR100-LT、ImageNet-LT 和 iNaturalist 2018 基准测试上性能提高了 5％到 7％，并可应用于各种主干网络和长尾算法，具有较高的普适性和一致性性能。

    Oct, 2020

  • 长尾视觉识别中的标签分布解耦

    该研究论文提出了一种基于标签分布解缠模型预测的方法 (LADE) 用于解决长尾视觉识别的问题，其在多个基准数据集上表现优于现有方法，具有很好的实用价值。

    Dec, 2020

  • 标签噪声下的鲁棒长尾学习

    研究了在长尾标签分布下标签噪声问题，提出了一种新的原型噪声检测方法及一个鲁棒的框架，该框架通过软伪标签技术和半监督学习算法进一步提高了泛化性能，并且在基准和真实数据集上表现优于现有基线模型，尤其是比 DivideMix 模型测试精度高出 3％。

    Aug, 2021

  • 通过自异构整合与知识挖掘实现长尾视觉识别

    这篇文章提出了一种基于深度神经网络的 MoE 模型 ——Self-Heterogeneous Integration with Knowledge Excavation（SHIKE）来解决长尾分布的问题，模型采用 Depth-wise Knowledge Fusion（DKF）融合不同浅层和深层次的特征，以达到更好的分类效果。

    Apr, 2023

  • 通过协同专家实现图分类的长尾识别

    通过协同多专家学习 (CoMe) 提出了一种新的长尾图级分类框架，从头部和尾部类的视角发展出平衡对比学习和基于难类挖掘的个体专家分类器训练，并在多专家框架中进行门控融合和解耦知识蒸馏。通过在七个广泛应用的基准数据集上进行全面实验，证明了我们的 CoMe 方法相对于现有技术基准的优势。

    Aug, 2023

  • 基于一种狄利克雷分布混合的改进证据深度学习

    该论文通过混合狄利克雷分布的变分推断来建模一致的目标分布，并通过学习得到的元分布模型提取目标模型中的学到的不确定性。实验证明我们提出的方法在各种基于不确定性的后续任务中具有优越性，并展示了学到的认知不确定性的一致性和不一致性带来的实际影响。

    Feb, 2024

  • 平衡元 Softmax 用于长尾视觉识别

    本文提出了无偏的 Balanced Softmax 方法和 Balanced Meta-Softmax 方法，以解决训练和测试分布不匹配的深度学习分类问题，实验证明其在视觉识别和实例分割任务中胜于现有最佳方法。

    Jul, 2020

  • 应对领域转移下的长尾类别分布

    使用三种新的核心功能块，以及集成在元学习框架中，解决长尾分布分类和领域漂移问题，提高了领域泛化在新的目标领域上的表现。

    Jul, 2022

  • 长尾分布自适应

    本研究通过将长尾分布建模为不平衡领域，一般分布建模为平衡领域，提出了一种基于域适应的长尾识别解决机制。该机制通过松弛一般化误差界限、优化不平衡和平衡领域的经验风险、以及利用类内和类间距离来逼近域分歧，以可解释的方式将基于长尾分布的模型适应到一般分布中，实验结果验证了其在图像识别、物体检测和实例分割等方面达到了最先进的性能水平。

    Oct, 2021