可扩展的大边界马氏距离度量学习

Mar, 2010

可扩展的大边界马氏距离度量学习

Scalable Large-Margin Mahalanobis Distance Metric Learning

Chunhua Shen, Junae Kim, Lei Wang

TL;DR本文提出一种快速且可扩展的机器学习算法，用于学习马氏距离指标，并利用凸优化原理和梯度下降方法解决距离度量问题，实现在计算复杂性方面的显著提高，达到与现有方法相当的分类准确度。

Abstract

For many machine learning algorithms such as $k$-Nearest Neighbor ($k$-NN) classifiers and $ k $-means clustering, often their success heavily depends on the metric used to calculate distances between different data points. An effective solution for defining such a metric is to learn i

machine learning metric learning mahalanobis distance metric convex optimization gradient descent

发现论文，激发创造

稀疏线性分类的可证明准确性相似度学习

本文介绍一种基于非半正定线性相似性的学习算法，用于分类，该算法能够通过最优化距离和相似度函数来在非线性特征空间中学习，该方法得到应用后，在各种数据集上比起现有方法具有更好的效果，而且速度快、防止过拟合和产生非常稀疏的分类器。

Jun, 2012

使用类 Boosting 算法的半正定度量学习

该研究介绍了一种基于 Boosting 算法的技术，名为 BoostMetric，用于学习一个二次的 Mahalanobis 距离度量，相较于传统算法有更好的分类准确度和运行时间，可应用于各种类型的约束条件。

Apr, 2011

具增强的半正定度量学习

本文提出了一种基于提升法的技术，称为 BoostMetric，用于学习 Mahalanobis 距离度量标准，通过提升算法中有效和可扩展的学习过程，缓解了学习这种度量标准的主要困难之一，即确保 Mahalanobis 矩阵是正定半定的。在各种数据集上的实验表明，该算法在分类准确性和运行时间方面优于那些最先进的方法。

Oct, 2009

自适应抽样和小批量随机梯度下降进行高效距离度量学习

本研究提出了利用随机梯度下降中的小批量和自适应采样两种策略来有效地减少 DML 的计算复杂度，证明了这些方法的理论保证，并进行了广泛的实证研究以验证所提出算法的有效性。

Apr, 2013

学习度量的非参数在线回归

研究在线非参数回归算法，可以学习回归函数平滑的方向；基于回归函数梯度外积矩阵 G，学习 Mahalanobis 度量（可以自适应 G 矩阵的有效秩），同时考虑到 G 的频谱，限制在相同数据序列上的遗憾；作为分析的初步步骤，将 Hazan 和 Megiddo 的非参数在线学习算法扩展，使其能够竞争相对于任意 Mahalanobis 度量计量 Lipschitzness 的函数。

May, 2017

在线自适应马氏距离估计

本文介绍了在 Mahalanobis 距离中应用草图技术加速算法的研究，提供了适用于 Mahalanobis 距离的数据结构，可处理自适应查询和在线更新，并与在线学习 Mahalanobis 度量的先前算法相结合。

Sep, 2023

学习 Mahalanobis 距离度量的样本复杂度

这项工作提供了基于 PAC 风格的样本复杂度给监督式度量学习，并通过使用数据分布的结构，展示了适用于特定隐含复杂的例子的适当匹配的速率。实验也表明，规范化度量学习优化准则可以帮助适应数据集的固有复杂性，从而提高泛化性能。

May, 2015

平滑优化的鲁棒指标学习

本文提出了一种称为鲁棒测度学习的方法，旨在从嘈杂的侧面信息中学习距离度量，将学习任务最初制定为组合优化问题，并将其优雅地转换为凸规划问题，提出了一种基于平滑优化的高效学习算法，最后在 UCI 数据集上的实验研究证明了所提出方法的有效性。

Mar, 2012

核机器距离度量学习

本文探讨将三种流行的马氏度量学习算法作为预处理程序，在支持向量机（SVM）- RBF 分类器上的作用。结果表明，这种算法效果并不理想。作者提出一种新的算法 —— 支持向量度量学习（SVML），它无缝地将 Mahalanobis 度量的学习与 RBF-SVM 参数的训练相结合。实验证明，SVML 在精度方面优于所有替代方法，并成为交叉验证选择模型的标准欧几里得度量的严肃替代方案。

Aug, 2012

学习局部不变的马氏距离

本文提出了一种新颖且计算效率高的学习本地马氏度量的方法，并展示了如何学习任何转换的本地不变度量来提高性能。

Feb, 2015