基于先验知识和注意力机制的元学习用于小样本学习

Dec, 2018

基于先验知识和注意力机制的元学习用于小样本学习

Prior-Knowledge and Attention-based Meta-Learning for Few-Shot Learning

Yunxiao Qin, Weiguo Zhang, Chenxu Zhao, Zezheng Wang, Xiangyu Zhu...

TL;DR本研究提出新的元学习方法，以注意机制和先验知识为主要组成，帮助元学习器更好地理解输入数据并集中于重点特征，在解决少样本学习和一些任务过度拟合问题方面表现优异。

Abstract

Recently, meta-learning has been shown as a promising way to solve few-shot learning. In this paper, inspired by the human cognition process which utilizes both prior-knowledge and vision attention in learning ne

meta-learning prior-knowledge attention mechanism few-shot learning task-over-fitting

发现论文，激发创造

自适应注意力的小样本分类

本文提出一种新的 few-shot 学习方法，通过优化和快速适应查询样本的表示来改进 few-shot 分类，所提出的自适应注意力模型还能够解释分类模型所寻找的证据。在各种基准 few-shot 分类和精细识别数据集上，实验证明了所提出模型的分类结果达到了最先进水平。

Aug, 2020

Few-shot 学习的元学习方法：最新进展综述

该论文介绍了元学习在深度学习中的应用及其近期发展，涵盖度量、记忆、基于学习等方法，并探讨了当前的挑战和未来的研究方向。

Mar, 2023

一种用于定制模型训练的元学习方法

本文提出了一种联合训练方法，将迁移学习和元学习相结合，从而在少分类、少样本以及多分类、多样本任务中均可获得更好的泛化性能。

Sep, 2018

一种简单的元学习范式，用混合注意机制进行零样本意图分类

本文提出了一种简单而有效的元学习范式，采用多种混合注意力机制来提取更好的话语特征，采用元学习策略来提高模型的泛化能力，从而在标准和广义零 - shot 意向分类任务上优于其他强基线

Jun, 2022

元转移学习用于少样本学习

本篇论文提出了一种名为元转移学习的新型少样本学习方法，通过训练多个任务以及为每个任务学习深度神经网络权重的缩放和移位函数来实现迁移。作者使用提出的 HT 元批处理方案对 MiniImagenet 和 Fewshot-CIFAR100 这两个具有挑战性的少样本学习基准进行了实验，并将其与相关工作进行了广泛比较，结果验证了元转移学习方法的优越性和高准确性。

Dec, 2018

关于元学习在少样本文本分类中注意力的重要性

该文介绍了一种新的文本分类方法，利用元学习的方法来进行更好的自然语言理解，该方法综合运用 MAML 和 attention 机制进行任务不可知表示学习和任务特定的注意力调整，可以在数据稀缺的情况下更好地进行单标签和多标签分类任务。

Jun, 2018

无需记忆的元学习

通过信息理论设计的元正则化目标，可以使元学习器在任务训练数据和任务测试数据之间有效地适应，成功地使用来自非相互排斥任务的数据来有效地适应新任务，并在应用场景中大幅优于标准元学习算法。

Dec, 2019

可解释性注意力：适用于少样本学习及其扩展

通过深度强化学习实现硬注意力的概念，直接影响原始输入数据，从而为人类理解提供解释性的硬注意力定位方法。

Oct, 2023

少样本学习的概念学习器

COMET 是一种元学习方法，通过学习沿着可解释的人类概念维度的模式知识，从而改进泛化能力，而不是学习一个联合的无结构度量空间。在各种领域中的少样本任务中，COMET 的表现优于强元学习基线，且提供模型预测背后的解释。

Jul, 2020

概率模型无关元学习

该论文提出了一种概率元学习算法，能够从模型分布中采样模型，并且在模型适应新任务时注入噪声来减少任务模糊性，实验结果表明，该方法可以在模糊的少样本学习问题中采样出可信的分类器和回归器，并且阐述了如何利用对模糊性的推理来解决活跃学习问题。

Jun, 2018