本研究中，我们给特征描述符添加了一个 L2 约束，以保证它们位于一个固定半径的超球面上，该步骤可以显著提高面部验证的性能，特别是在 IJB-A 数据集上实现了 0.909 的 True Accept Rate 以及 0.0001 的 False Accept Rate。

Mar, 2017

本文介绍了一种名为 FaceNet 的系统，其通过使用卷积神经网络及三元组学习法直接将人脸图像映射到紧凑的欧几里得空间中，使得人脸识别、验证和聚类等任务可使用 FaceNet 嵌入作为特征向量，仅使用 128 字节每个人脸即可实现最先进的人脸识别性能，其在 LFW 和 YouTube Faces DB 两个数据集上的表现都创造了最新纪录。同时，本文还提出了谐波嵌入的概念和谐波三元组损失，以描述不同网络产生的面部嵌入版本以及它们之间的直接比较。

Mar, 2015

本文提出了一种叫做 A-Softmax 的损失函数来训练卷积神经网络，以学习面部图像特征，使得最大内类距离小于最小类间距离，从而解决开放集（open-set）协议下的人脸识别问题。与之前的算法相比，该方法在 LFW、YTF 和 MegaFace Challenge 数据集上取得了更好的结果。

Apr, 2017

该研究探讨使用余弦相似度或中心余弦相似度（皮尔逊相关系数）来替代神经网络中点积计算，从而达到较好的正则化效果，实验结果表明，余弦正则化优于其他正则化技术。

Feb, 2017

本文提出了一种基于 CNN 和度量学习的两阶段方法，以实现面部验证和识别。实验表明，该方法优于其他最先进的方法，获得 99.77% 的成对验证准确度，并在其他两个更实用的协议下获得更好的准确度。本文也讨论了数据大小和补丁数量的重要性，展示了通往实际高性能面部识别系统的明确途径。

Jun, 2015

本文提出新的思路，通过特征归因归一化改进局部梯度，提出了 L2 范数和余弦距离的规范化不变的损失函数作为正则化项，在 CIFAR-10 和 ImageNet-100 上实验表明该方法大大提高了解释的鲁棒性。

Nov, 2022

介绍了一种基于卷积结构的归一化方法 (Convolutional Normalization)，它可以方便地作为模块嵌入到任何卷积神经网络 (ConvNets) 中，通过提高权重的正交性和每层的通道等距性，减小权重矩阵的层范数，提高网络的 Lipschitzness 并且提高 GAN 性能和普适性。

Mar, 2021

本文提出基于余弦相似度的大间距余弦损失函数，提高了人脸识别深度卷积神经网络的性能，在 MegaFace Challenge、Youtube Faces、Labeled Face in the Wild 等公共数据集上达到了最先进的表现。

Jan, 2018

本文提出了一种基于余弦相似度的 DDML 方法，以更好地利用 L2 归一化，并提出了一种基于 von Mises-Fisher 分布的新型损失函数来学习子空间结构，加上一种新的高效学习算法可以更好地捕捉嵌入空间的整体结构，并在几个标准数据集上进行分类和检索实验，证明我们的方法具有良好的性能和较简单的训练过程。

Feb, 2018

对比学习是一种自监督表示学习框架，在数据表示空间中通过吸引力使两个通过数据增强生成的正样本相似，同时通过排斥力使其远离负样本。然而，特征规范化在防止动态崩溃方面起着重要作用。

Sep, 2023