Sep, 2023
超几何与欧几里得嵌入在少样本学习中：同一硬币的两面
Hyperbolic vs Euclidean Embeddings in Few-Shot Learning: Two Sides of the Same Coin
Gabriel Moreira, Manuel Marques, João Paulo Costeira, Alexander Hauptmann
TL;DR最近在表示学习方面的研究表明，分层数据在双曲空间中能产生低维度和高信息量的表示。然而，即使双曲嵌入在图像识别方面引起了人们的关注，其优化过程容易遇到数值障碍。此外，与传统的欧几里德特征相比，目前尚不清楚哪些应用最能受益于双曲性所施加的隐式偏差。本文主要着眼于原型双曲神经网络，特别关注双曲嵌入在高维度情况下收敛于庞加莱球边界的倾向，以及这对少样本分类的影响。我们展示了最佳的少样本结果是通过在共同的双曲半径下得到的双曲嵌入得到的。与以往的基准结果相比，我们证明了无论嵌入维度如何，通过配备欧几里德度量的固定半径编码器都可以获得更好的性能。