EMNLPApr, 2020

学习学习消歧义：用于少样本词义消歧的元学习

PDF
TL;DR本文提出了一个基于元学习的少样本词义消歧框架，用于从极少数标记实例中学习消除未见过单词的歧义。与传统的 Meta-learning 测试方式不同，本研究还探讨了在应对高度不平衡的多类别问题时，几个流行元学习方法在 WSD 任务中的优缺点。
发现论文，激发创造
  • 利用变分语义记忆的元学习进行词义消歧

    本文提出一种基于层次变分推理的语义记忆元学习模型，通过超网络的自适应记忆更新规则，大幅提高了少样本情况下的监督词义消歧的性能。

    Jun, 2021

  • Few-shot 学习的元学习方法：最新进展综述

    该论文介绍了元学习在深度学习中的应用及其近期发展，涵盖度量、记忆、基于学习等方法，并探讨了当前的挑战和未来的研究方向。

    Mar, 2023

  • 非参数少样本学习用于词义消歧

    本文提出了一种基于 MetricWSD 的非参数的少样本学习方法，通过进行情节性训练，并学习计算给定单词的不同意义之间的距离，将高频词的学习度量空间转移到低频的单词中，从而避免了在自然语言处理中监督式全单词 WSD 的一个重要挑战中的数据不平衡问题。该方法在不依赖任何词汇资源的情况下，能够获得强大的性能，并通过联合 WSD 评估基准实现了 75.1 F1 得分的良好表现。

    Apr, 2021

  • 少样本自然语言处理的元学习综述

    本文旨在为小样本自然语言处理元学习领域提供更清晰的定义、进展总结和一些常见的数据集，通过在具有丰富注释的各种任务上训练模型，实现在只有少量标记示例的情况下解决新任务的目标。

    Jul, 2020

  • 基于元度量学习的小样本学习

    本文提出一种基于元度量学习的学习方法，在 $k$-shot $N$-way 和多样化领域任务及灵活标签数量等新设置中均具有优异性能。

    Jan, 2019

  • 元转移学习用于少样本学习

    本篇论文提出了一种名为元转移学习的新型少样本学习方法，通过训练多个任务以及为每个任务学习深度神经网络权重的缩放和移位函数来实现迁移。作者使用提出的 HT 元批处理方案对 MiniImagenet 和 Fewshot-CIFAR100 这两个具有挑战性的少样本学习基准进行了实验，并将其与相关工作进行了广泛比较，结果验证了元转移学习方法的优越性和高准确性。

    Dec, 2018

  • 深度元学习：在概念空间中学习学习

    通过引入深层元学习作为组成部分，将深度学习的表示能力融入到元学习中，通过建立一个刻画高级概念的表征空间，可以有效地改进原先的元学习算法，从而实现对于各种少样本图像识别问题中识别率的提升。

    Feb, 2018

  • 元学习中的 Meta-SGD：快速学习少样本学习

    本文介绍 Meta-SGD，一种高容量，容易训练的元学习器，可以在监督学习和强化学习中初始化和适应任何可微分的学习器，在单次元学习过程中学习学习器初始化、更新方向和学习率，相较于 LSTM 和 MAML 在少样本学习上表现更加具有竞争性。

    Jul, 2017

  • 一种用于定制模型训练的元学习方法

    本文提出了一种联合训练方法，将迁移学习和元学习相结合，从而在少分类、少样本以及多分类、多样本任务中均可获得更好的泛化性能。

    Sep, 2018

  • 自我监督元学习用于少样本自然语言分类任务

    本文提出了一种自监督的方法来生成大量的 meta-learning 任务分布，通过这种方法，将 transformer 模型的预训练与 meta-learning 相结合，证明了这种方法能够在 NLP 任务上实现更好的少样本泛化。

    Sep, 2020