Sep, 2022

基于梯度相似性的自适应元学习器用于小样本文本分类

HTML
PDF
TL;DR提出了一种基于自适应元学习和梯度相似性的方法 AMGS，通过获得样本的潜在语义表示和构建自监督辅助任务以及利用自适应元学习者对基学习者在外循环中获得梯度的约束，以解决少样本学习场景下优化方法的过拟合问题。实验结果表明，与基于优化方法的元学习方法相比，该方法能够提高 few-shot 文本分类的性能。
发现论文，激发创造
  • 跨多种自然语言分类任务学习少样本学习

    LEOPARD 是一种基于元学习的方法，使用少量标记的数据可优化跨任务进行学习，适用于 NLP 分类任务中的不同类数，并表现出比自监督预训练或多任务训练更好的泛化能力。

    Nov, 2019

  • 重新审视元学习作为监督学习

    本文提出了一个基于对元学习与传统监督学习之间联系的重新审视和加强的原则性统一框架，通过把任务特定数据集和目标模型看作（特征、标签）样本，我们可以把许多元学习算法归约到监督学习的实例中，进一步提高了元学习的表现。

    Feb, 2020

  • 元线性：探索针对少样本学习的简单元学习

    本文探讨了在整个标签集上进行全分类的简单方法，并通过此方法在多个基准测试中取得了与现有技术相当的表现。同时，本文还对元学习与全分类目标在少样本学习中的权衡进行了深入分析。

    Mar, 2020

  • 元学习最近进展的综述和调查

    该论文回顾了元学习的概念和应用，其与深度学习的不同之处在于其能够适应于少量高维数据集，可以用于模型自适应，可不断自我完善实现高度自主的人工智能。元学习不断发展创新，不同的发展方法已有不同的应用和研究方向，进一步拓展了机器学习的应用领域。

    Apr, 2020

  • 元学习的自适应任务采样

    这篇论文提出了一种基于类对潜力的贪心采样方法，以改善元学习中的少样本分类问题的普适性表现。

    Jul, 2020

  • 自我监督元学习用于少样本自然语言分类任务

    本文提出了一种自监督的方法来生成大量的meta-learning任务分布，通过这种方法，将transformer模型的预训练与meta-learning相结合，证明了这种方法能够在NLP任务上实现更好的少样本泛化。

    Sep, 2020

  • 元学习对抗域适应网络用于小样本文本分类

    本文提出了一种新的元学习框架，集成对抗域适应网络，旨在提高模型的适应能力并为新类别生成高质量的文本嵌入。在四个基准数据集上进行了大量实验，结果表明我们的方法在所有数据集上都明显优于现有技术，特别是在20个新闻组数据集上，1-shot和5-shot分类的准确性从52.1％提高到59.6％和从68.3％提高到77.8％。

    Jul, 2021

  • 元学习连体网络用于少样本文本分类

    本文提出了一种Meta-Learning Siamese Network来解决few-shot learning中的三个主要问题（即原型向量计算中忽略采样的随机性，忽略标记样本的重要性和纯随机构建元任务）。与现有模型相比，Meta-SN利用外部知识来编码原型向量，并提出了一种新的抽样策略来构建元任务，同时在六个基准数据集上展示了其明显的优越性。

    Feb, 2023

  • 扰动梯度以缓解元过拟合

    通过增加任务的多样性和降低模型对某些任务的置信度，本论文提出了解决元过拟合问题的几种方法，并在少样本学习环境中展示出了改进的泛化性能。

    May, 2024

  • 通过任务中获取的所有信息改进少样本文本分类的元学习

    本研究解决了现有元学习方法在少样本文本分类中准确提取类别原型的难题，主要由于类内差异大和类间差异小。提出了一种新方法，通过构建任务自适应度量空间来减少类内差异并增强类间差异，同时利用最优传输技术估计类别原型，显著提升了分类精度。实验结果表明，该方法在所有基准数据集上均优于最新模型。

    Oct, 2024