通过最大间隔集群层级树实现半监督非线性距离度量学习

KDDFeb, 2014

通过最大间隔集群层级树实现半监督非线性距离度量学习

Semi-Supervised Nonlinear Distance Metric Learning via Forests of Max-Margin Cluster Hierarchies

David M. Johnson, Caiming Xiong, Jason J. Corso

TL;DR提出了一种新的非线性度量学习方法，其使用基于迭代、分层的半监督最大间隔聚类的树型算法来构建聚类层级森林，并将众多半随机弱度量层级的输出结合起来，以获得强大而稳健的非线性度量模型。与一些最先进的基准测试结果相比，这种方法的结果相当或优于现有最先进算法，并且对噪声更具稳健性。同时，这种方法具有两个主要贡献：第一，它是半监督的，同时融合了约束点和非约束点的信息；第二，它采用了一种松散的约束满足方法，在不同层次的层级中满足不同子集的约束，从而得到更加稳健的学习算法。

Abstract

Metric learning is a key problem for many data mining and machine learning applications, and has long been dominated by Mahalanobis methods. Recent advances in nonlinear metric learning have demonstrated the potential power of non-Mahalanobis distance functions, particularly

nonlinear metric learning semi-supervised clustering hierarchical variant max-margin clustering tree-based functions

发现论文，激发创造

可扩展的大边界马氏距离度量学习

本文提出一种快速且可扩展的机器学习算法，用于学习马氏距离指标，并利用凸优化原理和梯度下降方法解决距离度量问题，实现在计算复杂性方面的显著提高，达到与现有方法相当的分类准确度。

Mar, 2010

基于隐含成对位置相关性的度量学习随机森林

使用基于随机森林的分类器来学习单个度量标准，实现在特征空间内自适应地调整距离函数，该方法在多个数据集上表现出色，并且在准确性和速度方面均优于现有的全局和多度量方法。

Jan, 2012

HIER: 层次正则化度量学习超越类标签

本文提出了一种新的监督学习正则化方法，名为 HIER，它可以在超几何空间中学习层次代理以逼近训练数据的语义层次结构，为度量学习提供更丰富和更细粒度的监督，并在四个标准基准测试中实现了最好的表现。

Dec, 2022

利用类层次结构进行度量引导的原型学习

本文提出了一种基于成本矩阵和原型网络的层次分类方法，其通过在嵌入空间中排列类原型来表征层次结构，并在四个公共数据集上验证了该方法的效果。

Jul, 2020

具有泛化保证的监督度量学习

本篇论文提出一种新的核函数以及一种新的编辑相似性模型，可以更好地优化距离和相似度函数，提高 k 近邻算法的性能，并在学习相似性时考虑到泛化能力与算法的稳定性，解决了当前度量学习方法的局限性，为特征向量和结构化对象（如字符串或树）的度量学习提供了新方法。

Jul, 2013

学习度量的非参数在线回归

研究在线非参数回归算法，可以学习回归函数平滑的方向；基于回归函数梯度外积矩阵 G，学习 Mahalanobis 度量（可以自适应 G 矩阵的有效秩），同时考虑到 G 的频谱，限制在相同数据序列上的遗憾；作为分析的初步步骤，将 Hazan 和 Megiddo 的非参数在线学习算法扩展，使其能够竞争相对于任意 Mahalanobis 度量计量 Lipschitzness 的函数。

May, 2017

自适应符号嵌入的树编辑距离学习：补充材料和结果

该论文提出了一种基于嵌入的新型度量学习方法，通过嵌入树节点向量来学习编辑距离，使欧几里得距离支持类别判别并提高分类准确率，该方法在包括计算机科学、生物医学和自然语言处理数据集的六个基准数据集上优于目前树形度量学习技术的最新技术。

May, 2018

两阶段度量学习

本文提出了一个新的两阶段度量学习算法，首先通过计算到一组固定锚点的相似度将每个学习实例映射到概率分布，然后在关联的统计流形上定义输入数据空间上的 Fisher 信息距离，这在输入数据空间中引入了一组具有独特特性的距离度量，不像核化度量学习，我们不需要要求相似度度量是半正定的，而且也可以被解释为具有良好定义的距离逼近的局部度量学习算法。我们在多个数据集上评估了其性能，它明显优于其他度量学习方法和支持向量机（SVM）。

May, 2014

HyperAid: 超几何空间中用于树拟合和分层聚类的去噪

该论文提出了一种基于超 bolic 空间的新方法（HyperAid），用于将 tree-metrics 适应到噪声数据，并通过引入边权重来提高适应性，该方法在边缘增强树和最短距离计量表示的合成数据，以及 Zoo，Iris，Glass，分割和 SpamBase 等实际数据集上效果显著优于现有方法。

May, 2022

度量嵌入的半监督深度学习

本文提出了一种基于深度度量嵌入的半监督学习算法，利用少量标注数据和无标注数据的相对距离关系约束，得到在欧氏空间内区分力强的分类器，并可用于基于最近邻分类的应用。

Nov, 2016