ICCVMar, 2017

使用代理实现无需繁琐的距离度量学习

PDF
TL;DR使用 proxy 点的三元组损失函数能够更快速地优化距离度量学习，提高零样本学习数据集的精度至多 15％，且比其他三元组损失函数的收敛速度块 3 倍。
distance metric learningtriplet-based methodsproxy-based losszero-shot learning datasetsconvergence rate
发现论文，激发创造
  • 软正交代理的深度度量学习

    本文提出了一种基于 Soft Orthogonality (简称 SO) 的新方法来解决深度度量学习 (DML) 中代理点出现的问题，并结合数据高效的图像变换器 (DeiT) 作为编码器提取图片的上下文特征，以数据集检索等实验结果表明该方法在超越现有技术的同时，还具有更高的可靠性和实用性

    Jun, 2023

  • 深度度量学习的代理锚定损失

    该研究提出了一种新的代理损失方法，它结合了基于对和代理的方法的优点并克服了它们的局限性，同时具有更快的收敛速度和对嘈杂标签和离群值的鲁棒性，能充分利用数据之间的关系，其中该方法在四个公共基准测试中表现出最先进的性能和最快的收敛速度。

    Mar, 2020

  • SoftTriple Loss: 无需三元组采样的深度度量学习

    通过使用 SoftTriple loss 函数中每一个类别拥有多个中心的方式，可优化浅层距离计量学习算法，而无需采样。

    Sep, 2019

  • 重新审视距离度量学习在少样本自然语言分类中的应用

    本论文研究了距离度量学习 (Distance Metric Learning) 对少样本学习下的监督学习语言模型 Fine-tuning 在自然语言处理 (NLP) 分类任务中的影响，并发现使用基于代理的 DML 损失有助于模型的精调和推理，尤其是使用 CCE（分类交叉熵）和 ProxyAnchor Loss 的结合模型，其平均性能优于仅使用 CCE 的模型，提高了 3.27 个百分点 -- 具体取决于训练数据集的不同。

    Nov, 2022

  • 自适应密度判别度量学习

    本文针对之前的距离度量学习算法中存在的一些问题，提出了一种通过分布模型在表示空间中自适应评估相似性，并通过惩罚类别分布重叠实现局部判别的新方法，在多项任务上取得了最新的分类结果，并提高了所学表示的属性集中度和层次恢复能力。

    Nov, 2015

  • 大规模距离度量学习及其不确定性

    本文提出了一种保持边界的度量学习框架，同时学习距离度量和潜在样本。该方法在处理大规模数据集时具有高效性，并且可以使学习的度量对数据不确定性具有鲁棒性，并且通过实验证明了该方法的有效性和高效性。

    May, 2018

  • 深度度量学习的鲁棒性标定代理损失

    本文提出了一种 Calibrate Proxy (CP) 结构，它使用真实样本信息提高了代理损失中的相似度计算，并引入校准损失来约束代理优化向类特征中心。 通过多个实验验证了我们方法在三个公共数据集和多个合成噪音标签数据集上的有效性，表明我们的方法可以有效地改善常用代理损失在正常和噪声数据集上的表现。

    Apr, 2023

  • 平滑代理锚损失用于噪声度量学习

    本文提出了一种度量学习方法，采用 Smooth Proxy-Anchor Loss 度量与去除数据集中的噪声标签，结合置信度模块和加权采样，实现了可靠的样本嵌入生成。与当前最先进的度量学习损失（基于代理和基于对）相比，使用含有噪声标签的数据集进行训练，该方法提高了 2.63 和 3.29 的召回率。

    Jun, 2020

  • 监督式语言模型微调的小样本场景距离度量损失函数

    本文研究了距离度量学习 (Distance Metric Learning，DML) 损失函数对用于分类任务的语言模型有监督微调的影响。在实验中，我们使用 SentEval Transfer Tasks 数据集，发现使用 DML 损失函数可以在少样本情况下提高 RoBERTa-large 模型在下游分类任务中的性能，使用 SoftTriple 损失微调的模型可以比使用标准分类交叉熵损失函数的模型取得更好的结果。同时，我们使用可解释性技术对模型的可靠性和结果进行了全面分析。

    Nov, 2022

  • 通过数据增强域自适应实现基于代理的深度度量学习的改进

    使用数据增强的领域自适应方法改进了代理度量学习，通过对鸟类图像、汽车图像、产品图像和衣物图像的实验表明，该方法显著提高了现有代理损失方法的效果，并获得了优于现有方法的结果。

    Jan, 2024