IJCAIMay, 2019

面向任务型对话系统的低资源自然语言生成元学习

PDF
TL;DR本文探讨了在低资源环境下生成新场景的句子，提出了基于元学习的通用优化方法（Meta-NLG）来解决这个问题，并在大型多域数据集上进行了实验，表明 Meta-NLG 在各种低资源配置中显著优于其他训练过程，适应低资源情况极快且良好。
发现论文，激发创造
  • 探索元学习算法在低资源自然语言理解任务中的应用

    本研究探讨了基于元学习算法的模型无关元学习算法（MAML）及其变体，以解决低资源自然语言理解任务中现有方法表现不佳的问题，并在 GLUE 基准测试中验证了该方法的有效性。

    Aug, 2019

  • 低资源神经机器翻译元学习

    本文利用元学习算法 (MAML) 扩展低资源 NMT 问题，并通过多语言高资源任务进行学习来适应低资源语言，并利用全局词汇表解决不同语言的输入输出错配， 在使用 18 种欧洲语言作为源任务和 5 种不同的语言作为目标任务的情况下，相对于基于多语言、迁移学习的方法，表明所提出的方法显著优于现有方法，并仅需少量训练示例即可获得具有竞争力的 NMT 系统。

    Aug, 2018

  • 自然语言理解金融任务的模型无关元学习

    本文研究了模型无关元学习算法（MAML）在低资源金融自然语言理解（NLU）任务中的应用，证明了该算法可使模型快速适应低资源情境并获得最佳性能。

    Mar, 2023

  • 少样本自然语言处理的元学习综述

    本文旨在为小样本自然语言处理元学习领域提供更清晰的定义、进展总结和一些常见的数据集，通过在具有丰富注释的各种任务上训练模型，实现在只有少量标记示例的情况下解决新任务的目标。

    Jul, 2020

  • 基于元学习的依存句法快速跨语言适配

    应用元学习技术，使用模型无关的元学习 (MAML) 在不同的语言上进行训练，实现快速适应新语言，有效提高了在少量数据集下，处理跨语言 NLP 问题时的效果。

    Apr, 2021

  • 有效多任务和多语言建模的元学习

    通过元学习方法，将任务和语言相互作用的表征共享，可提高自然语言处理任务和多语种任务性能。

    Jan, 2021

  • Meta-X_{NLG}: 一种基于语言聚类的元学习方法，用于零样本跨语言传输和生成

    本文提出了一种基于元学习和语言聚类的元学习框架（Meta-X$_{NLG}$），从不同的语言中学习可共享的结构，以实现对未知语言的统一跨语种转移。在两个自动生成任务（提取型文本摘要和问题生成）以及 30 种类型各异的语言和 5 个广泛使用的数据集上，该框架展示了相对于强基线的一致的改进效果，并且该模型的细致设计使得该端到端自动化生成设置不太容易受到意外翻译问题的影响，这在零 - shot 跨语种自然语言生成任务中是一个突出的问题。

    Mar, 2022

  • 自然语言处理的元学习综述

    这篇综述论文介绍了自然语言处理领域中元学习的概念和应用，指出当前技术需要更多的标注数据和适用域限制，而元学习技术则旨在提高学习算法的数据效率和适用范围，在 NLP 任务中表现出了显著的效果。此外，该论文总结了元学习在 NLP 中的任务构建、问题应用和发展趋势，为研究人员提供了相关工作的指导和吸引更多研究关注。

    May, 2022

  • 面向低资源文本分类的知识感知元学习

    该论文将知识图谱引入到元学习中，提出 KGML 方法，并在低资源文本分类问题上进行实验，证明其在有监督和无监督适应环境下的有效性。

    Sep, 2021

  • 针对任务导向对话的少样本自然语言生成

    该论文提出 FewShotWoz 模型作为 Natural Language Generation 模块，使用 SC-GPT 模型进行预训练来实现带有有限数量 labeled data 的多领域适配，通过实验证明其效果显著优于已有方法。

    Feb, 2020