预测激活参数进行少样本图像识别

Jun, 2017

预测激活参数进行少样本图像识别

Few-Shot Image Recognition by Predicting Parameters from Activations

Siyuan Qiao, Chenxi Liu, Wei Shen, Alan Yuille

TL;DR本文提出了一种新方法，通过直接从激活中预测参数，将预训练神经网络适应新类别，从而实现零训练和单次前向传递的快速推理，该方法在 ImageNet 数据集上实现了新类别的最先进分类准确性，同时保持了大规模类别的可比性，还在 MiniImageNet 数据集上进行了测试并大幅优于以前的最先进方法。

Abstract

In this paper, we are interested in the few-shot learning problem. In particular, we focus on a challenging scenario where the number of categories is large and the number of examples per novel category is very limited, e.g. 1, 2, or 3. Motivated by the close relationship between the p

few-shot learning neural network adaptation image recognition state-of-the-art

发现论文，激发创造

图像识别少样本学习的两阶段方法

本论文提出了多层神经网络结构来实现少样本图像识别任务，其中包括特征提取和分类两个阶段，采用 Mahalanobis 距离计算平均类别特征和测试样本的距离，并通过学习映射将样本原型映射到对应类别的原型上，该网络在四个标准的少样本图像识别数据集上表现出优越的性能。

Dec, 2019

无遗忘动态少样本视觉学习

该研究提出了一种基于卷积神经网络和注意力机制的少样本视觉学习系统，旨在实现在测试时只使用少量训练数据就能有效地学习新类别，同时不会忘记原先基础类别的模型。经过在 Mini-ImageNet 数据集的测试，该模型在 1-shot 和 5-shot 设置下都取得了 56.20% 和 73.00% 的最优成绩。

Apr, 2018

基于少样本学习的人类活动识别

本文提出了一个面向穿戴式传感器的少样本学习方法，该方法利用相关任务的知识来训练具有很少标注数据的模型，通过参数传递的方式进行知识迁移，并提出了一种度量跨域类别相关性的度量方法以减少负迁移，实验结果表明该方法具有显著优势。

Mar, 2019

未知深度结构的参数预测

本文提出一种基于图神经网络的 Hypernetwork 模型，可以利用已经训练好的神经网络的知识，直接预测神经网络参数，实验结果表明，该模型可以在 CPU 上在秒级时间内预测具有很高的精度和泛化能力，通过该模型的应用，可能开启训练神经网络的新篇章。

Oct, 2021

基於知識轉移的少樣本物體檢測

本文提出了一种基于少量样本和元学习的物体检测方法，使用原型知识转移和基于图的显式先验知识，验证了该方法在 PASCAL VOC 数据集上的有效性。

Aug, 2020

Few-Shot 识别的知识图谱迁移网络

该研究提出了一种基于知识图谱的网络模型，通过在少量训练数据的基础上进行信息传递和语义相关性分析，实现在大规模数据集上进行 few-shot 的学习，取得了较好的效果。

Nov, 2019

变分推断下的小样本活动识别

我们提出了一种新的变分推断架构（HF-AR）用于少样本活动识别，在三个广泛使用的数据集上展示了在 1-shot 和 5-shot 分类上优于最先进技术的表现。

Aug, 2021

学习为未见图像数据生成 ConvNets 的参数

传统的卷积神经网络依赖于大量的图像数据，并使用迭代优化算法来学习网络参数，这使得训练非常耗时和资源密集。本文提出了一种新的训练范式，将卷积神经网络的参数学习形式化为一种预测任务，通过学习数据集与网络参数之间的超映射关系，来直接预测在训练阶段从未见过的图像数据的网络参数。这种基于超网络的模型称为 PudNet，通过共享权重的自适应超循环单元捕捉不同网络层之间的参数依赖关系。实验证明，我们提出的方法在两种设置下（数据集内预测和数据集间预测）对于未见过的图像数据集具有良好的效果。PudNet 还可以很好地应用于大规模数据集，例如 ImageNet-1K。训练 ResNet-18 使用 GC 从头开始，在 ImageNet-1K 上花费 8967 个 GPU 秒，并获得 44.65% 的前 5 准确率。然而，我们的 PudNet 仅花费 3.89 个 GPU 秒来预测 ResNet-18 的网络参数，达到相当的性能（44.92%），比传统训练范式快了超过 2300 倍。

Oct, 2023

几何约束下的小样本学习

本篇文章提出了两个几何约束条件，用于将新类别的特征点聚集在类别权重周围，保持其与基础类别权重的差距，从而提取新类别的有区分性特征点，同时保留了基础类别学习的特征空间，最终在 ImageNet 数据集的 few-shot learning 任务中取得了显著优势。

Mar, 2020

现实场景下的带有区域定位的小样本学习

介绍了三个无需参数的改进方案（a）基于将交叉验证适应到元学习的更好的训练流程，（b）使用有限的边界框注释来定位目标的新型架构，以及（c）基于双线性汇总的特征空间的简单无需参数的扩展，这些改进共同使得算法能够在真实世界的识别问题中表现更好。

Apr, 2019