基于生成模型中的潜空间插值实现无监督元学习

Jun, 2020

基于生成模型中的潜空间插值实现无监督元学习

Unsupervised Meta-Learning through Latent-Space Interpolation in Generative Models

Siavash Khodadadeh, Sharare Zehtabian, Saeed Vahidian, Weijia Wang, Bill Lin...

TL;DR本文提出一种基于生成模型的元任务生成方法，称为 LAtent Space Interpolation Unsupervised Meta-learning (LASIUM)，通过从潜在空间中生成分组成群的对象，构建元任务的训练和验证数据，应用于少样本分类任务中的实验表明其性能优于或与当前无监督学习基线相竞争，并且该方法不需要手工调整，扩展性高。

Abstract

unsupervised meta-learning approaches rely on synthetic meta-tasks that are created using techniques such as random selection, clustering and/or augmentation. Unfortunately, clustering and augmentation are domain-dependent, and thus they require either manual tweaking or expensive lear

unsupervised meta-learning generative models few-shot classification latent space interpolation benchmark datasets

发现论文，激发创造

通过任务插值实现更少任务的元学习

本文提出了一种通过任务插值来扩充任务集的元学习方法（MLTI），通过该方法可以实现更好的泛化性能，从而在多个数据集上显著优于当前最先进的策略。

Jun, 2021

元学习式的无监督学习

该篇研究通过无监督元学习方法，利用自动构建的任务，从无标记数据获取表征，并应用于多种下游分类任务中，相对于其他四种无监督学习方法的表征学习，显示出更好的性能。

Oct, 2018

基于集合的少任务元学习元插值

提出了一种利用神经集函数和双层优化，通过任务插值来加强元训练任务分布，以提高泛化性能的新颖领域不可知任务增强方法 Meta-Interpolation，并在跨越图像分类、分子属性预测、文本分类和语音识别等多个领域的实验中进行了验证，结果表明 Meta-Interpolation 始终优于相关基线方法。

May, 2022

元优化合成样本的生成半监督学习

我们提出了一种使用合成数据集来训练半监督学习模型的方法，该方法通过使用基于生成式基础模型训练的合成数据集来替代真实的未标记数据集，并证明了在极少标记数据集的情况下，合成样本比真实未标记数据更有效地提升性能。

Sep, 2023

无监督表示学习辅助半监督元学习

通过一次性无监督元学习方法，利用增强样本作为查询集来学习训练样本的潜在表示，并通过温度缩放的交叉熵损失在元学习的内循环中防止过拟合。该方法是模型无关的，能够提高任何元学习模型的准确性，并通过在初始化和快速调适阶段采用目标有监督元学习的方式，在 Omniglot 和 mini-Imagenet 数据集上展示了该方法的性能。此外，具备该初始化的元学习模型可以在较少的训练样本下达到令人满意的准确性。

Oct, 2023

MetaSAug: 面向长尾视觉识别的元语义增强

本文提出一种基于 ISDA 算法的新方法，通过元学习自动学习转换的语义方向来扩充极少数的分类数据样本，以达到解决单纯平衡训练集情况下典型有监督学习算法表现下降问题的目的，并在 CIFAR-LT-10 / 100、ImageNet-LT 和 iNaturalist 2017/2018 数据集上进行实验验证。

Mar, 2021

通过潜在语义插补增强领域词嵌入

本研究提出了一种名为潜在语义填补（LSI）的方法，利用图论提取亲和性空间内实体的潜在流形结构，结合非负最小二乘法和幂迭代法，将外部知识转移入语义空间，生成并填补语义空间中低频词的可靠嵌入向量，优化词嵌入效果，进而提升下游自然语言处理任务的性能。实验验证了该方法在分类和语言模型任务中的显著优于多种常用词嵌入方法，且结果在不同参数下稳定一致。

May, 2019

具有群集感知生成模型的半监督生成

本文介绍了 Cluster-aware Generative Model 这一基于深度生成模型的半监督学习方法，利用未标记的数据点探索数据自然聚类模式，同时引入部分带标记的数据对模型进行优化，有效提高了模型性能。该模型也能够在完全无监督的情况下实现优异的对数似然性能。

Apr, 2017

无监督元学习：基于少量伪有监督对比学习

本研究提出了一种名为 “Pseudo-supervised Contrast (PsCo)” 的无监督元学习框架，可以在少样本分类任务中改进伪标签并以渐进方式构建多样化的任务，实验证明该框架在各种领域和跨领域的少样本分类基准测试中表现优异。

Mar, 2023

一个概率模型解释自监督表示学习

自监督学习在生成的潜在变量模型和对比方法的框架下，提出了一种能够改善性能、实现任务无关性表示的方法。

Feb, 2024