通过引入曲率和使用度量张量作为自调节方法，我们提出一种基于学习算法无关的叠加方案，以更好地表示这些关系。我们提出了一些通用约束和特定的统计参数化方法，并提出了使用基于自编码器的参数化的未来研究方向。

Oct, 2018

本研究表明，对于许多实际场景，使用双曲嵌入提供了更好的选择，而欧几里得和球面嵌入则主导着计算机视觉任务，如图像分类、图像检索和少样本学习。

Apr, 2019

该论文介绍了一种新颖的快速机器学习方法，利用了两种技术：正交基向量嵌入（VEOB）和谱变换（ST）。该方法通过将原始数据编码转换为在正交基向量上投影的向量嵌入，采用奇异值分解（SVD）技术计算向量基和投影坐标，从而在嵌入空间中实现了增强的距离测量，并通过保留与最大奇异值相关的投影向量来实现数据压缩。同时，它还利用离散余弦变换（DCT）将向量数据序列转换到谱空间，并选择最重要的分量，以简化对于长向量序列的处理。该论文提供了使用这种方法在 Julia 语言中实现的词嵌入、文本块嵌入和图像嵌入的示例，并探讨了使用该方法进行无监督学习和监督学习的策略，以及如何处理大数据量。

Oct, 2023

基于超几何空间的视觉 Transformer 模型，使用改进版的成对交叉熵损失函数直接优化嵌入向量，经过六种不同的数据集表明得到了全新的最先进性能。

Mar, 2022

提出了一种新颖的算法，用于通过非线性嵌入向量到低维欧氏空间中进行监督判别距离学习，该方法可以被视为核神经网络，并且可以通过类似于线性 Mahalanobis 距离度量学习算法的近似核化得出，该方法的模型参数数量和测试时间评估复杂度均为 O (dD)，其中 D 是输入特征的维度，d 是投影空间的维数，在具有数十万个训练对的 CNN 特征的数据集上进行了实证比较。

Sep, 2015

本文介绍了一种利用训练批次的算法，将向量的成对距离提升到成对距离矩阵，从而以学习结构化预测目标的方式来优化最先进的特征嵌入方法，同时在 CUB-200-2011、CARS196 和 Online Products 数据集上进行实验，证明在所有实验的嵌入尺寸上都能够显著提高。

Nov, 2015

本文介绍了一种提供视觉分类任务向量表示的方法，该表示可用于推断任务及其关系的性质，并提供了独立于细节（如类标签语义的理解等）的任务的固定维度嵌入。我们还展示了该框架的实用价值以及通过学习嵌入度量来选择预训练特征提取器的简单元学习框架。选择具有任务嵌入的特征提取器可获得接近最佳特征提取器的性能，而成本则显著低于对所有可用特征提取器进行详尽的训练和评估。

Feb, 2019

该研究提出了通过将图像映射到类别嵌入中以学习语义鉴别性特征的方法，从而提高图像检索结果的语义一致性。结果显示在 CIFAR-100，NABirds 和 ImageNet 上，学习到的图像嵌入大大提高了图像检索结果的语义一致性。

Sep, 2018

本文研究了深度神经网络中图像对的相似性函数的学习方法，通过利用嵌入集合中的独立性来提高嵌入的鲁棒性，并借助在线梯度提升问题来划分深度网络的最后嵌入层。通过提出两个损失函数来增加集合的多样性，可用于权重初始化过程或训练期间，对图像检索任务的评估表明，我们的度量学习方法在多个数据集上均取得了比业界领先方法更好的表现。

Jan, 2018

本文提出使用旋转矩阵中的三个向量作为头部姿态估计的表示并基于此开发了一种新的神经网络。作者解决了当前头部姿态估计存在的两个问题：注释数据样本时欧拉角或四元数的不连续性问题，以及 Mean Absolute Error（MAE）不能准确反映头部姿态的行为。为此，作者提出了一种新的注释方法和新的 MAE 的测量指标，同时对向量进行正交约束，实现了对大姿态角度下预测误差的有效降低。

Oct, 2020