Jul, 2017

元学习中的 Meta-SGD：快速学习少样本学习

PDF
TL;DR本文介绍 Meta-SGD，一种高容量，容易训练的元学习器，可以在监督学习和强化学习中初始化和适应任何可微分的学习器，在单次元学习过程中学习学习器初始化、更新方向和学习率，相较于 LSTM 和 MAML 在少样本学习上表现更加具有竞争性。
few-shot learningmeta-learningmeta-sgdlearning ratereinforcement learning
发现论文，激发创造
  • 元转移学习用于少样本学习

    本篇论文提出了一种名为元转移学习的新型少样本学习方法，通过训练多个任务以及为每个任务学习深度神经网络权重的缩放和移位函数来实现迁移。作者使用提出的 HT 元批处理方案对 MiniImagenet 和 Fewshot-CIFAR100 这两个具有挑战性的少样本学习基准进行了实验，并将其与相关工作进行了广泛比较，结果验证了元转移学习方法的优越性和高准确性。

    Dec, 2018

  • 深度元学习：在概念空间中学习学习

    通过引入深层元学习作为组成部分，将深度学习的表示能力融入到元学习中，通过建立一个刻画高级概念的表征空间，可以有效地改进原先的元学习算法，从而实现对于各种少样本图像识别问题中识别率的提升。

    Feb, 2018

  • Few-shot 学习的元学习方法：最新进展综述

    该论文介绍了元学习在深度学习中的应用及其近期发展，涵盖度量、记忆、基于学习等方法，并探讨了当前的挑战和未来的研究方向。

    Mar, 2023

  • 无关模型的元学习用于深度网络的快速适应

    本文提出了一种模型无关的元学习算法，通过少量的训练样本，使用梯度下降算法来训练模型的参数，实现了对新学习任务的快速调整和学习，导致在少量图像分类、回归和神经网络政策优化方面表现出最先进的性能。

    Mar, 2017

  • 学习学习消歧义：用于少样本词义消歧的元学习

    本文提出了一个基于元学习的少样本词义消歧框架，用于从极少数标记实例中学习消除未见过单词的歧义。与传统的 Meta-learning 测试方式不同，本研究还探讨了在应对高度不平衡的多类别问题时，几个流行元学习方法在 WSD 任务中的优缺点。

    Apr, 2020

  • 概率模型无关元学习

    该论文提出了一种概率元学习算法，能够从模型分布中采样模型，并且在模型适应新任务时注入噪声来减少任务模糊性，实验结果表明，该方法可以在模糊的少样本学习问题中采样出可信的分类器和回归器，并且阐述了如何利用对模糊性的推理来解决活跃学习问题。

    Jun, 2018

  • 元图：元学习的少样本链接预测

    本文提出了一种基于元学习的 Meta-Graph 框架，该框架使用高阶梯度以及一个条件生成图神经网络初始化的学习图签名函数，可以在少量训练数据的情况下快速适应新图，并在收敛时获得更好的结果。

    Dec, 2019

  • 面向 Few-shot Learning 的任务无关元学习

    本文提出了一种基于熵和不等式优化的任务不可知元学习算法，可以在避免过度适应已有任务和提高元学习器泛化性能方面有效地解决少样本学习问题，并在少量分类和强化学习任务中表现优异。

    May, 2018

  • 一种用于定制模型训练的元学习方法

    本文提出了一种联合训练方法，将迁移学习和元学习相结合，从而在少分类、少样本以及多分类、多样本任务中均可获得更好的泛化性能。

    Sep, 2018

  • 基于元度量学习的小样本学习

    本文提出一种基于元度量学习的学习方法，在 $k$-shot $N$-way 和多样化领域任务及灵活标签数量等新设置中均具有优异性能。

    Jan, 2019