Oct, 2023

无监督表示学习辅助半监督元学习

PDF
TL;DR通过一次性无监督元学习方法，利用增强样本作为查询集来学习训练样本的潜在表示，并通过温度缩放的交叉熵损失在元学习的内循环中防止过拟合。该方法是模型无关的，能够提高任何元学习模型的准确性，并通过在初始化和快速调适阶段采用目标有监督元学习的方式，在 Omniglot 和 mini-Imagenet 数据集上展示了该方法的性能。此外，具备该初始化的元学习模型可以在较少的训练样本下达到令人满意的准确性。
few-shot learningmeta-learningunsupervised learningcross-entropy losstransfer-learning
发现论文，激发创造
  • 元学习式的无监督学习

    该篇研究通过无监督元学习方法，利用自动构建的任务，从无标记数据获取表征，并应用于多种下游分类任务中，相对于其他四种无监督学习方法的表征学习，显示出更好的性能。

    Oct, 2018

  • 半监督少样本分类的元学习

    本研究致力于发展一种在少量标记数据情况下对未标记数据进行分类的方法并提出一种新型 Prototypical Networks 和一种使用未标记数据的元学习算法来解实际问题，经过对 Omniglot、miniImageNet 和 ImageNet 进行实验，验证了这些算法可以使预测结果得到显著改进。

    Mar, 2018

  • 无监督元学习用于少样本图像分类

    本文提出了一个名为 UMTRA 的算法，它在分类任务中执行无监督，模型无关的元学习，通过随机采样和增强来创建合成的训练任务，且只需要一定少量的标签。该算法在几项基准测试上表现优异。

    Nov, 2018

  • 面向 Few-shot Learning 的任务无关元学习

    本文提出了一种基于熵和不等式优化的任务不可知元学习算法，可以在避免过度适应已有任务和提高元学习器泛化性能方面有效地解决少样本学习问题，并在少量分类和强化学习任务中表现优异。

    May, 2018

  • 概率模型无关元学习

    该论文提出了一种概率元学习算法，能够从模型分布中采样模型，并且在模型适应新任务时注入噪声来减少任务模糊性，实验结果表明，该方法可以在模糊的少样本学习问题中采样出可信的分类器和回归器，并且阐述了如何利用对模糊性的推理来解决活跃学习问题。

    Jun, 2018

  • 利用基类信息增强元训练的少样本学习

    基于元学习框架，我们提出了一种端到端训练范式，通过整个训练集的信息与元学习训练范式相互增强，以解决少样本学习中训练成本高和性能欠佳的问题。而且，我们的框架是无模型偏见的，相比基准系统提升了约 1% 的性能。

    Mar, 2024

  • 半监督式学习中的学习

    本文提出了一种基于元学习的半监督学习方法，将有标签和无标签数据的相似度转化为对应的语义相似度，并通过自监督学习的方法实现了对有标签数据的更新。实验证明该方法较之传统方法更为有效。

    Aug, 2020

  • 复用预训练模型进行鲁棒的领域外少样本学习

    本文提出一种在没有访问元培训练集的情况下，利用预训练 MAML 检查点来解决新的 few-shot 分类任务的方法，通过结合对抗训练和基于不确定性的步长适应，以及对算法进行改进，在 SGD 和 Adam 优化器上，在同一领域和跨领域基准测试中优于 “基准” MAML，并表现出对基础步长的选择具有更好的鲁棒性。

    Mar, 2021

  • 元转移学习用于少样本学习

    本篇论文提出了一种名为元转移学习的新型少样本学习方法，通过训练多个任务以及为每个任务学习深度神经网络权重的缩放和移位函数来实现迁移。作者使用提出的 HT 元批处理方案对 MiniImagenet 和 Fewshot-CIFAR100 这两个具有挑战性的少样本学习基准进行了实验，并将其与相关工作进行了广泛比较，结果验证了元转移学习方法的优越性和高准确性。

    Dec, 2018

  • 通过少样本任务的特征重新审视无监督元学习

    本篇论文提出了基于无监督元学习（UML）的通用嵌入向量生成方式用于 few-shot learning，并结合数据增强、半标准化相似度、混淆实例合成、任务相关嵌入变换等技术，取得了显著优于以前 UML 方法和甚至优于有监督方法的成果。

    Nov, 2020