超球原型建模的小样本分类

Nov, 2022

Few-shot Classification with Hypersphere Modeling of Prototypes

Ning Ding, Yulin Chen, Ganqu Cui, Xiaobin Wang, Hai-Tao Zheng...

TL;DR使用张量场来建模类的几何学方法在 few-shot learning 方面是一种更加有效的方法，我们提出了一种简单而有效的方法 -- hypersphere prototypes (HyperProto)，使用动态尺寸的超球体来表示类信息，同时在 NLP 和 CV 领域上的实验验证了我们方法的有效性。

Abstract

Metric-based meta-learning is one of the de facto standards in few-shot learning. It composes of representation learning and metrics calculation designs. Previous works construct class representations in different ways, varying from mean output embedding to covariance and distributions

few-shot learning metrics calculation geometrical perspective hypersphere prototypes nlp and cv

发现论文，激发创造

嵌入式类模型和无样本元训练的少样本学习

该研究提出了一种适用于任意类别和任意样本数的少样本学习嵌入方法，通过定义隐式的类别表示函数和学习原型和模型参数来实现，其中类别嵌入涵盖了度量学习，并能够在不拥挤的类别表示空间中添加新类别，并取得了基准数据集最好的性能表现。

May, 2019

超球原型网络

本研究提出了超球形原型网络，利用高维球面的极端分离来定义类别原型，并通过数据无关型优化将原型定位于球面上，从而实现了分类和回归的统一以及多任务学习的优化

Jan, 2019

自适应 Poincaré 距离点集用于少样本分类

本文提出了一种上下文感知的双曲度量学习方法，可用于 few-shot learning 任务，并且在多个分类基准上的实验结果表明这种方法不仅具有鲁棒性，而且表现优于基线模型。

Dec, 2021

利用类层次结构进行度量引导的原型学习

本文提出了一种基于成本矩阵和原型网络的层次分类方法，其通过在嵌入空间中排列类原型来表征层次结构，并在四个公共数据集上验证了该方法的效果。

Jul, 2020

超几何与欧几里得嵌入在少样本学习中：同一硬币的两面

最近在表示学习方面的研究表明，分层数据在双曲空间中能产生低维度和高信息量的表示。然而，即使双曲嵌入在图像识别方面引起了人们的关注，其优化过程容易遇到数值障碍。此外，与传统的欧几里德特征相比，目前尚不清楚哪些应用最能受益于双曲性所施加的隐式偏差。本文主要着眼于原型双曲神经网络，特别关注双曲嵌入在高维度情况下收敛于庞加莱球边界的倾向，以及这对少样本分类的影响。我们展示了最佳的少样本结果是通过在共同的双曲半径下得到的双曲嵌入得到的。与以往的基准结果相比，我们证明了无论嵌入维度如何，通过配备欧几里德度量的固定半径编码器都可以获得更好的性能。

Sep, 2023

中心点和超球体：使用超球嵌入减少中心现象和提高传导式小样本学习性能

通过在超球面上平均分配表示，以优化均匀性和本地相似性存储之间的权衡，从而减少 hubness 问题，改善距离分类性能，提高少样本学习的准确性。

Mar, 2023

使用理想原型的双曲布斯曼学习

本文提出了超边界学习的想法，并使用理想原型的概念来定位超边界原型，以避免先前的标签知识，同时通过引入受惩罚的 Busemann 损失来计算原型间的距离。与最近的超球面和超边界原型方法相比，实证结果表明我们的方法提供了自然的分类置信度解释，并取得了更好的表现。

Jun, 2021

HMSN: 使用理想原型进行聚类的双曲超球面自监督学习

本文研究使用超几何流形来进行自监督学习中的原型聚类。作者扩展了遮蔽孪生网络以操作包含理想边界的超几何空间，并利用超几何投影来确保下游任务的表示保持超几何性。实验证明这种方法在极少样本学习任务中具有改进，并在低维线性评估任务中与欧几里得方法相当。

May, 2023

通过两个新的基于距离的损失函数，强制执行度量学习中的类别可分性，实现少样本图像分类：SuSana Distance 就是你所需要的

提出了两种不同的损失函数 ——Proto-Triplet Loss 和 ICNN loss，其中考虑了嵌入向量的重要性，并评估了训练后网络获得的嵌入的质量。在实验中，相比其他度量法，这些损失函数在 miniImagenNet 基准测试中将准确率显著提高了 2％，表明这些损失函数有能力使网络更好地推广到以前未见过的类别。

May, 2023

无监督特征学习与新兴数据驱动的原型特性

介绍了一种在双曲空间进行无监督特征学习的算法，利用距离表示图像相似性和图像原型性，有效地减少了样本复杂性，提高了模型泛化性和鲁棒性。

Jul, 2023