距离度量学习教程：数学基础、算法、实验分析、前景与挑战（包括数学背景和详细算法解释的附录）

Dec, 2018

距离度量学习教程：数学基础、算法、实验分析、前景与挑战（包括数学背景和详细算法解释的附录）

A Tutorial on Distance Metric Learning: Mathematical Foundations, Algorithms, Experimental Analysis, Prospects and Challenges (with Appendices on Mathematical Background and Detailed Algorithms Explanation)

PDF

Juan Luis Suárez-Díaz, Salvador García, Francisco Herrera

TL;DR本教程提供了关于距离度量学习的理论基础和基础知识，以及最常见算法的全面实验分析，重点考虑降维和核化，在标准分类问题中评估所有算法的能力，并讨论了这个领域的未来前景和挑战。

Abstract

distance metric learning is a branch of machine learning that aims to learn distances from the data, which enhances the performance of similarity-based algorithms. This tutorial provides a theoretical background

distance metric learning machine learning similarity-based algorithms convex analysis classification

发现论文，激发创造

特征向量和结构化数据的度量学习综述

本文系统地综述了度量学习的前沿研究进展，着重分析了 Mahalanobis 距离度量学习、非线性度量学习、局部度量学习等新近涌现的强大替代方法，讨论了对于结构化数据的度量学习中仍存在的挑战，旨在给出度量学习近年来的发展方向。

Jun, 2013

转移度量学习：算法、应用和展望

本文介绍了关于迁移测度学习的分类和度量传递策略，包括直接度量逼近、子空间逼近、距离逼近和分布逼近。同时，总结和探讨了迁移测度学习的不同方法及其应用，并指出了未来可能的研究方向和挑战。

Oct, 2018

学习链接

研究数据驱动的算法选择和度量学习以在聚类问题中同时学习最佳算法和度量。我们的工作考虑从基础度量函数中学习的凸组合的距离函数集合，为此设计了有效的学习算法，并对这些技术进行了全面的实证评估，表明它们可以显著提高聚类性能。

Jul, 2019

线性距离度量学习

本文提出了一种基于连续凸损失优化的简单优雅方法，用于线性距离度量学习，并针对不同的噪声模型推导了相应的损失函数。研究结果表明，即使数据存在噪声，只要样本充足就可以学习到地面事实线性度量，并提供相应的样本复杂度限制。此外，我们还提出了一种有效地将学习模型截断为低秩模型的方法，该方法可证明在损失函数和参数方面都能保持准确性，这是该领域首次出现这种结果。实验结果表明了理论结果的正确性。

Jun, 2023

具有泛化保证的监督度量学习

本篇论文提出一种新的核函数以及一种新的编辑相似性模型，可以更好地优化距离和相似度函数，提高 k 近邻算法的性能，并在学习相似性时考虑到泛化能力与算法的稳定性，解决了当前度量学习方法的局限性，为特征向量和结构化对象（如字符串或树）的度量学习提供了新方法。

Jul, 2013

几何平均度量学习

从第一原则出发，我们重新审视了从数据中学习欧几里得度量的任务，并将其表述为一个非常简单的优化问题。我们的解法具有很多优点，包括具有欧几里得几何吸引力的正定矩阵的里曼几何，易于解释和计算速度快等。在标准基准数据集上，我们的封闭形式解决方案始终达到更高的分类准确性。

Jul, 2016

可扩展的大边界马氏距离度量学习

本文提出一种快速且可扩展的机器学习算法，用于学习马氏距离指标，并利用凸优化原理和梯度下降方法解决距离度量问题，实现在计算复杂性方面的显著提高，达到与现有方法相当的分类准确度。

Mar, 2010

两阶段度量学习

本文提出了一个新的两阶段度量学习算法，首先通过计算到一组固定锚点的相似度将每个学习实例映射到概率分布，然后在关联的统计流形上定义输入数据空间上的 Fisher 信息距离，这在输入数据空间中引入了一组具有独特特性的距离度量，不像核化度量学习，我们不需要要求相似度度量是半正定的，而且也可以被解释为具有良好定义的距离逼近的局部度量学习算法。我们在多个数据集上评估了其性能，它明显优于其他度量学习方法和支持向量机（SVM）。

May, 2014

自适应符号嵌入的树编辑距离学习：补充材料和结果

该论文提出了一种基于嵌入的新型度量学习方法，通过嵌入树节点向量来学习编辑距离，使欧几里得距离支持类别判别并提高分类准确率，该方法在包括计算机科学、生物医学和自然语言处理数据集的六个基准数据集上优于目前树形度量学习技术的最新技术。

May, 2018

核机器距离度量学习

本文探讨将三种流行的马氏度量学习算法作为预处理程序，在支持向量机（SVM）- RBF 分类器上的作用。结果表明，这种算法效果并不理想。作者提出一种新的算法 —— 支持向量度量学习（SVML），它无缝地将 Mahalanobis 度量的学习与 RBF-SVM 参数的训练相结合。实验证明，SVML 在精度方面优于所有替代方法，并成为交叉验证选择模型的标准欧几里得度量的严肃替代方案。

Aug, 2012