ICLRApr, 2021

元学习器在数据集不平衡情况下的敏感性如何？

PDF
TL;DR本研究调查了 Few-Shot Learning (FSL) 算法训练中 imbalanced meta-datasets 与性能之间的关系，结果表明在较小的 imbalance ratio ($ ho<20$) 下，Meta-Learning (ML) 方法比 imbalance task-level 更为鲁棒，在更大的 imbalance ($ ho=65$) 下，该结果仍然成立。这一结果表明了 ML 算法的隐含优势，在数据集不平衡和域漂移的情况下能够学习到可推广的特征。
meta-learningfew-shot learningimbalanced meta-datasetsgeneralizable featuresperformance
发现论文，激发创造
  • 元任务：元学习正则化的另一种视角

    该论文提出了一种新颖的解决方案，可以在有限标注数据情况下，能够在训练和新任务中进行有效泛化，并利用未标注样本进行元任务实施未监督技术，实验结果表明该方法在新任务和训练任务中表现良好，并具有更快，更好的收敛性，较低的泛化和标准差误差，表明其在少样本学习中的潜在实际应用能力。该方法的实验结果超过了原型网络 3.9%。

    Feb, 2024

  • 元学习跨元任务进行少样本学习

    本文提出了利用元任务之间的关系来辅助元学习的方法，分别考虑了在两种类型的元任务对上的关系，并提出了不同的策略来利用它们：1）有不相交类集的两个元任务，2）有相同类集的两个元任务，并给出了相应的新学习目标。然而由于实验中的一些错误，我们选择撤回本文。

    Feb, 2020

  • 基于元度量学习的小样本学习

    本文提出一种基于元度量学习的学习方法，在 $k$-shot $N$-way 和多样化领域任务及灵活标签数量等新设置中均具有优异性能。

    Jan, 2019

  • 具有困难感知的不平衡数据序列元学习

    针对实际情况中任务分布动态变化和不均衡，本研究提出了一种基于核方法的领域变化检测和难度感知内存管理机制。同时，还引入了一种高效的自适应任务采样方法，最终在新的基准测试中得到了非常好的效果。

    Sep, 2021

  • Meta-Dataset: 从少量示例中学习的数据集

    提出了一个名为 Meta-Dataset 的大规模基准数据集，用于训练和评估模型在少样本分类问题上的性能，并探讨模型对不同训练来源的泛化能力和元学习的好处。

    Mar, 2019

  • 元转移学习用于少样本学习

    本篇论文提出了一种名为元转移学习的新型少样本学习方法，通过训练多个任务以及为每个任务学习深度神经网络权重的缩放和移位函数来实现迁移。作者使用提出的 HT 元批处理方案对 MiniImagenet 和 Fewshot-CIFAR100 这两个具有挑战性的少样本学习基准进行了实验，并将其与相关工作进行了广泛比较，结果验证了元转移学习方法的优越性和高准确性。

    Dec, 2018

  • Few-shot 学习的元学习方法：最新进展综述

    该论文介绍了元学习在深度学习中的应用及其近期发展，涵盖度量、记忆、基于学习等方法，并探讨了当前的挑战和未来的研究方向。

    Mar, 2023

  • 探索任务内部关系以改善元学习算法

    通过选择多样的任务进行小批量处理，我们研究利用任务关联的外部知识来改善训练稳定性，进而减少训练中的噪音。

    Dec, 2023

  • 自适应边界损失增强少样本学习

    本文针对小样本学习（few-shot learning）的泛化困难问题，提出了一种自适应_margin_方法，改善了基于度量的元学习方法的泛化能力，并通过实验验证了该方法的有效性。

    May, 2020

  • 学习平衡：用贝叶斯元学习解决不平衡和越界任务

    本文提出了一种新型元学习模型，在每个任务中自适应平衡元学习和任务特定学习的效果，并将其制定为贝叶斯推理框架，在多个现实的任务和课程不平衡的数据集上验证了其有效性。

    May, 2019