关于集合、原型网络和少样本学习

Dec, 2020

关于集合、原型网络和少样本学习

On Episodes, Prototypical Networks, and Few-shot Learning

Steinar Laenen, Luca Bertinetto

TL;DR探究非参数法在少样本学习中使用时，是否需要进行分集式学习。通过 Matching Networks 和 Prototypical Networks 两种最流行的非参数方法进行广泛实验，发现它们的 ' 非分集式 ' 同行们简单、超参数少，并提高了多个少样本分类数据集的表现。

Abstract

episodic learning is a popular practice among researchers and practitioners interested in few-shot learning. It consists of organising training in a series of learning problems (or episodes), each divided into a

episodic learning few-shot learning nonparametric approaches matching networks prototypical networks

发现论文，激发创造

无情节的少样本学习任务选择

通过选择无情节的任务并使用相似度作为选择标准进行元训练，可以在少样本学习任务中提高效果。

Jan, 2024

半监督少样本分类的元学习

本研究致力于发展一种在少量标记数据情况下对未标记数据进行分类的方法并提出一种新型 Prototypical Networks 和一种使用未标记数据的元学习算法来解实际问题，经过对 Omniglot、miniImageNet 和 ImageNet 进行实验，验证了这些算法可以使预测结果得到显著改进。

Mar, 2018

少样本学习的原型网络

本文提出一种少样本学习方法，即使用原型网络从小样本中抽象出原型，将其映射到一个度量空间中，比较测试样本和原型之间的距离来进行分类，同时还将其拓展到零样本学习，取得了最先进的结果。

Mar, 2017

基于 Episode 的原型生成网络进行零样本学习

该论文介绍了一个基于 Episode 的训练框架，用于零样本学习，其中模型在多个 Episode 中进行训练，通过逐步积累集成经验来预测模拟的看不见的类，以便在真实的看不见的类上进行良好的泛化，提出了一种新的生成模型，通过生成视觉原型并以课程语义原型为条件，确保视觉语义交互相匹配，并在对抗性框架中对抗参数经济的多模态交叉熵损失以捕捉区分性信息，经过多次实验发现，该模型在四个数据集的传统 ZSL 和广义 ZSL 任务中都优于现有的最先进方法。

Sep, 2019

少样本学习的归纳式分集自适应度量

本文提出了一种 Transductive Episodic-wise Adaptive Metric (TEAM) 框架来解决 few-shot 学习中，如何通过集成元学习范式以及深度指标学习和传导推理来学习具有自适应度量能力的分类器。通过在每个任务内部探索配对约束和正则化先验，我们将适应过程显式地形式化为标准的半正定规划问题，并使用转导设置中的闭式解来解决该问题，并通过将注意力机制应用于双向相似性策略，提取查询和原型之间更可靠的关系，实验表明我们提出的方法在三个基准数据集上表现优于其他现有方法，并在少样本学习文献中实现了最先进的性能。

Oct, 2019

单向典型网络

本文介绍了一种新的针对单一类别训练原型 few-shot 模型的方法，引入了一个以零为中心的 “空类” 并通过批量标准化实现中心化，同时提出了一个用于距离计算的新的高斯层次，该层次考虑了支撑示例的分布而不仅是它们的质心，在 Omniglot 数据集上得到了.98 的分类准确率，在 MiniImageNet 数据集上的测试准确率为.8。

Jun, 2019

关于连续学习中微小情节记忆的研究

该研究实证分析了在连续学习过程中，引入极小的叙事性记忆在任务之间转移知识的有效性，并发现相较于特定的连续学习方法，该方法能利用极小的记忆显著提升泛化能力，对小样本问题有一定的启示。

Feb, 2019

使用原型网络的半监督和主动少样本学习

本文提出了一种基于聚类的半监督少样本分类方法，使用 Prototypical Networks 提取特征并结合 K-means 聚类算法，利用少量标记样本指导聚类过程，而用户反馈可以显著改善适应性能。通过图像数据的实验，证明了该策略的良好性能。

Nov, 2017

受限 Few-Shot 学习：类人低样本复杂度学习和非情节文本分类

本文提出了一种新的任务：约束的少样本学习（CFSL），介绍了一种基于 Cat2Vec 的 CFSL 方法，该方法使用类别对比损失，并受到模糊痕迹理论和原型理论等认知理论的启发。

Aug, 2022

一次性学习的匹配网络

本研究使用深度神经网络和度量学习的思想，建立了一种学习新概念的框架，从而不需要微调以适应新的类别类型，并在视觉和语言任务中定义了一次性学习问题，实验结果表明，在 Imagenet 数据集上，准确率从 87.6% 提高到 93.2%，在 Omniglot 数据集上，准确率从 88.0% 提高到 93.8%。

Jun, 2016