少样本分类通用性预测的统计模型

Dec, 2022

少样本分类通用性预测的统计模型

A Statistical Model for Predicting Generalization in Few-Shot Classification

Yassir Bendou, Vincent Gripon, Bastien Pasdeloup, Lukas Mauch, Stefan Uhlich...

TL;DR本文提出了一种基于高斯模型的特征分布参数估计方法，通过估计类间条件密度之间的距离实现对于少样本分类任务中泛化误差的预测，并在实验中表明该方法优于 leave-one-out cross-validation 等传统方法。

Abstract

The estimation of the generalization error of classifiers often relies on a validation set. Such a set is hardly available in few-shot learning

generalization error classifiers few-shot learning neural networks distance-based classifiers

发现论文，激发创造

通过分布估计提高少样本文本分类

本文提出了两种简单而有效的方法通过无标签查询样本来估计新颖类别的分布，从而避免了负面转移的问题。经过多个数据集的实验，该方法明显优于现有的先进方法。

Mar, 2023

最大化骨干特征分布以实现高效的少样本学习

本文提出了一种新颖的基于迁移学习的方法，旨在处理特征向量使其更接近高斯分布，加大分类准确性。同时，在具备未标注测试样本的传导式 few-shot 学习中，也提出了基于最优传输启示的算法以进一步提高性能。经过标准化的视觉基准测试，研究发现该方法可以在各种数据集、主干架构和少样本的情况下获得最先进的精度。

Oct, 2021

SimpleShot: 重新审视最近邻分类在少样本学习中的应用

本文主要研究了基于简单特征变换的最近邻分类器在 few-shot 学习上的精度，并发现在 miniImageNet 数据集中，使用平均值减法和 L2 归一化的最近邻分类器在三个设置上优于之前的结果。

Nov, 2019

改进的小样本视觉分类

本文提出了一种名为 Simple CNAPS 的新型神经网络架构，采用 Mahalanobis 距离作为距离衡量标准并学习适应性特征提取器，从而在标准 few-shot 图像分类基准数据集上实现了 6.1% 的性能提升。

Dec, 2019

基于特征分布的迁移学习少样本学习方法

本文提出了一种新颖的基于转移学习的方法，通过预处理特征向量使其更接近高斯分布，并利用基于最优输运的算法 (在普遍情况下) 加以利用，证明了该方法在各种数据集、主干体系结构和少样本情形下达到最先进的准确性。

Jun, 2020

Few-shot 学习的免费午餐：分布校准

本文提出了一种新方法，利用预训练的特征提取器和分类模型在有限的训练样本数下通过分布校准和高斯分布等方法，提高少量样本的分类准确度，相比其他方法在 miniImageNet 上达到了约 5% 的提升。

Jan, 2021

用于元学习少样本分类的回归网络

本研究提出回归网络，用于解决少样本分类问题。该方法通过在类子空间中回归最近的近似点实现分类，使用回归误差作为距离度量，并将元学习引入到嵌入空间中。使用此简单归纳偏差的回归网络方法在有限数据情况下表现出色，特别是在能够用多个样本形成聚合类表示时。

May, 2019

不确定性感知的少样本图像分类

本文提出了一种不确定性感知的 few-shot 图像分类框架，通过模拟查询和支持样本之间相似度不确定性，提高了模型对有限样本的优化能力，并在基准模型的基础上显著提升了模型性能。

Oct, 2020

用于细粒度少样本分类的变分特征解缠方法

本文研究了如何通过增大少样本学习中的类内方差，以提高图像的分类效果，通过变分推断的方式将类内方差分布从基本集合转移到新集合中。实验结果表明，在具有挑战性的细粒度少样本图像分类基准上，该方法在状态 - of-the-art 的方法上有明显提升。

Oct, 2020

针对外部分布泛化的不确定性建模

本文旨在通过在训练时使用合成特征统计数据来增强深度学习模型的泛化能力，建立在统计学的基础上，每个特征统计量变为具有不同分布概率的概率点。研究表明，这种方法可以显著提高图像分类、语义分割和实例检索等多项视觉任务的网络泛化能力。

Feb, 2022