Apr, 2023

面向任务自适应的伪标签跨领域元学习

PDF
TL;DR本文提出了一种基于任务自适应伪标记的跨领域学习方法，通过标签传播从有标记的 support 集生成伪标签，进而有效地利用未标记的 query 集，相比归纳式学习方法，该方法在适应过程中能处理更多示例，从而提高模型的分类性能，实验证明该方法优于现有技术在少样本分类任务上的表现。
meta-learningtransductive learningtask-adaptive pseudo labelinglabel propagationfew-shot classification
发现论文，激发创造
  • 伪标记中选择性的无监督多源自由领域自适应的优势

    该研究提出了一种利用信息论界限和特征对齐技术，将目标数据划分为伪标记子集和无标记子集以实现平衡的无监督域自适应方法，取得了比现有方法更好的性能表现。

    Feb, 2022

  • 无监督域自适应的伪标注课程

    通过基于密度的聚类算法提出伪标签课程表，通过高密度值子集进行早期训练，在后期使用低密度值的数据子集，进而改进网络生成伪标签的能力，提高模型的训练效果并实现最先进的性能

    Aug, 2019

  • 基于经验贝叶斯的合成梯度传递元学习

    通过元学习方法在转导式环境中学习多个任务，通过使用未标记的查询集合生成更强大的模型来解决多任务学习中的问题，并提出了一种合成梯度网络和初始化网络组成的新型变分推理方法，优于以前的方法，并进一步探索了合成梯度的潜力。

    Apr, 2020

  • 元学习的自适应任务采样

    这篇论文提出了一种基于类对潜力的贪心采样方法，以改善元学习中的少样本分类问题的普适性表现。

    Jul, 2020

  • 无监督元学习：基于少量伪有监督对比学习

    本研究提出了一种名为 “Pseudo-supervised Contrast (PsCo)” 的无监督元学习框架，可以在少样本分类任务中改进伪标签并以渐进方式构建多样化的任务，实验证明该框架在各种领域和跨领域的少样本分类基准测试中表现优异。

    Mar, 2023

  • 使用伪标签进行域自适应

    无监督领域适应的研究中，通过使用预训练网络进行多阶段伪标签优化程序，解决了无标签目标数据中的类别错位问题，证明了该简单方法在多个数据集上比复杂的最先进技术更有效。

    Feb, 2024

  • 使用已标记和未标记的任务进行多任务学习

    本文探讨多任务学习中训练数据标注不完整的情况，并提出了基于实例的信息传递方法，针对固定标注任务和主动选择标注任务两种情况提出了算法，并通过合成数据和真实数据的实验证明了算法的有效性。

    Feb, 2016

  • 结构化预测选择性伪标记的无监督域自适应

    本篇论文提出了一种基于结构化预测的选择性伪标记策略，通过无监督聚类分析激活样本在深度特征空间内的固有规律以促进准确伪标记，实验证明该策略表现优于当代最先进方法。

    Nov, 2019

  • 自元伪标签：无需教师的元伪标签

    介绍了一种名为 Self Meta Pseudo Labels 的半监督学习方法，在不使用教师模型的情况下，利用单一模型生成伪标签和进行分类，从而显著降低了内存使用，并取得与 Meta Pseudo Labels 方法相似的性能。

    Dec, 2022

  • 课程标记：重新审视半监督学习中的伪标记

    本文重新审视了伪标记的概念，提出了一种基于半监督学习的方法，通过将伪标记应用于无标签集中的样本，并利用已训练好的模型标记这些样本，然后迭代重复此过程来训练模型。本文通过实验证明，伪标记方法可以取得与现有最先进方法相媲美甚至更好的结果，并且更能抵御未知分布样本。作者指出采用学习课程原理以及在每个自我训练周期前重启模型参数是实现这一点的两个关键因素。在 CIFAR-10 数据集上，本文仅使用了 4,000 个标记样本，达到了 94.91% 的准确率，在 Imagenet-ILSVRC 数据集上，本文仅使用了 10％的标记样本，达到了 68.87％的 top-1 的准确率。

    Jan, 2020