Mar, 2024

深度度量学习的分段线性流形

PDF
TL;DR无监督深度度量学习通过仅使用无标签数据来学习语义表示空间，其中准确估计数据点之间的相似度是一个具有挑战性的问题。为此，我们提出了使用分段线性逼近来建模高维数据流形的方法，其中每个低维线性段近似于点周围小邻域内的数据流形。通过这些邻域来估计数据点之间的相似度。实验证明，与现有最先进技术的相似度估计相比，我们的方法更好地与真实情况相关。我们还证明，在无监督环境中可以使用代理模型分段线性流形，从而提高性能。我们的方法在标准零样本图像检索基准测试上优于现有的无监督度量学习方法。
unsupervised deep metric learningsimilarity estimationdata manifoldproxieszero-shot image retrieval benchmarks
发现论文，激发创造
  • 引导式深层度量学习

    本文提出了一种新的由两个独立模型构成的度量学习结构 Guided Deep Metric Learning，通过使用 Few-Shot Learning 的角度来生成一个基于带标签数据的先验知识的减少的假设空间，之后通过离线的知识蒸馏方案来指导或规则化学生模型的决策边界，提高在分布偏移下的一般化，并获得了高达 40% 的 (Recall@1, CIFAR10) 改进。

    Jun, 2022

  • 通过深度度量学习进行流形匹配，用于生成建模

    本文提出了一种流形匹配方法来生成模型，该方法包括分布生成器和度量生成器，通过学习距离度量来生成符合真实数据流形的样本，并且应用于无监督和有监督学习任务，得到了良好的效果。

    Jun, 2021

  • 流形挖掘：无标签度量学习

    该研究提出了一种无监督框架，用于针对性地寻找训练样例。该方法仅需要一组与目标应用程序相关的图像和有效的初始表示，其中正样例是单个流形上的远点，而负样例是不同流形上的相邻点。这种方法可应用于预训练网络的无监督微调，用于细粒度分类和特定物体检索。与之前的完全或部分有监督的模型相比，我们的模型表现出相似或更好的性能。

    Mar, 2018

  • 利用辅助旋转损失进行无监督的深度度量学习

    本文提出了一种基于无监督聚类算法的伪标签来生成深度度量学习中的标签，使用自监督 (SS) 任务的无监督深度度量学习 (UDML)，并通过预测图像旋转来规范化训练过程，从而实现了聚类嵌入、自监督预期任务和一致性优化的联合学习。

    Nov, 2019

  • 利用流形先验在模型训练中融入远程学习

    本研究提出了 Distance Learner 方法，利用 “流形假设” 作为先验知识，对于 DNN-based 分类器进行训练，结果表明 Distance Learner 相比标准分类器学习到更有意义的分类边界，并且在对抗鲁棒性任务中表现出色。

    Jul, 2022

  • 基于均匀地标采样和约束局部线性嵌入的可伸缩流形学习

    基于机器学习和数据科学的关键方法之一，流形学习旨在揭示高维空间中复杂非线性流形内部的内在低维结构。我们提出了一种可扩展的流形学习方法，可以高效地处理大规模和高维数据，从而应用于可视化、分类等领域。

    Jan, 2024

  • 基于随机森林保几何性质的监督流形学习

    本文提出使用随机森林的数据几何保证变体作为流形学习方法的初始化，以实现具有意义的嵌入，并证明了使用这些相似度保持能够几乎适用于各种流形学习方法并且能够正确地维护全局结构。

    Jul, 2023

  • 度量嵌入的半监督深度学习

    本文提出了一种基于深度度量嵌入的半监督学习算法，利用少量标注数据和无标注数据的相对距离关系约束，得到在欧氏空间内区分力强的分类器，并可用于基于最近邻分类的应用。

    Nov, 2016

  • 判别式流形传播的无监督域适应

    提出了一种基于黎曼流形学习的概率判别标准，用于使用软标签在目标域上实现可转移性和可区分性，该方法可以处理许多不同的领域自适应问题，并通过大量实验展示出优越性。

    Aug, 2020

  • 去噪多相似度公式：鲁棒性度量学习的自适应计划驱动方法

    本文提出了基于自适应采样的均衡自适应度量学习（BSPML）算法，该算法采用去噪多相似度计算，并将噪声样本作为极其困难的样本，并根据样本权重自适应删除样本以提高模型的稳健性和泛化能力。

    Nov, 2022