Jun, 2023

软正交代理的深度度量学习

PDF
TL;DR本文提出了一种基于 Soft Orthogonality (简称 SO) 的新方法来解决深度度量学习 (DML) 中代理点出现的问题，并结合数据高效的图像变换器 (DeiT) 作为编码器提取图片的上下文特征，以数据集检索等实验结果表明该方法在超越现有技术的同时，还具有更高的可靠性和实用性
deep metric learningproxy-based lossessoft orthogonality constraintdata-efficient image transformercategory-level image retrieval
发现论文，激发创造
  • 使用代理实现无需繁琐的距离度量学习

    使用 proxy 点的三元组损失函数能够更快速地优化距离度量学习，提高零样本学习数据集的精度至多 15％，且比其他三元组损失函数的收敛速度块 3 倍。

    Mar, 2017

  • 深度度量学习的代理锚定损失

    该研究提出了一种新的代理损失方法，它结合了基于对和代理的方法的优点并克服了它们的局限性，同时具有更快的收敛速度和对嘈杂标签和离群值的鲁棒性，能充分利用数据之间的关系，其中该方法在四个公共基准测试中表现出最先进的性能和最快的收敛速度。

    Mar, 2020

  • 通过数据增强域自适应实现基于代理的深度度量学习的改进

    使用数据增强的领域自适应方法改进了代理度量学习，通过对鸟类图像、汽车图像、产品图像和衣物图像的实验表明，该方法显著提高了现有代理损失方法的效果，并获得了优于现有方法的结果。

    Jan, 2024

  • 基于代理的非各向同性概率深度度量学习

    该研究提出了基于概率的代理深度度量学习方法，使用方向 von Mises-Fisher（vMF）分布对图像进行建模，以更好地表示类特定差异，并比较了多个分布到点和分布到分布度量之间的代理 - 图像距离，表现出具有不确定性感知能力，更好的梯度性能和整体改进的泛化性能。

    Jul, 2022

  • 重新审视距离度量学习在少样本自然语言分类中的应用

    本论文研究了距离度量学习 (Distance Metric Learning) 对少样本学习下的监督学习语言模型 Fine-tuning 在自然语言处理 (NLP) 分类任务中的影响，并发现使用基于代理的 DML 损失有助于模型的精调和推理，尤其是使用 CCE（分类交叉熵）和 ProxyAnchor Loss 的结合模型，其平均性能优于仅使用 CCE 的模型，提高了 3.27 个百分点 -- 具体取决于训练数据集的不同。

    Nov, 2022

  • SoftTriple Loss: 无需三元组采样的深度度量学习

    通过使用 SoftTriple loss 函数中每一个类别拥有多个中心的方式，可优化浅层距离计量学习算法，而无需采样。

    Sep, 2019

  • 基于代理的深度度量学习的非等向性正则化

    使用非同构正则化和标准化流方法改进基于代理的测量学习，在代理周围引入非同构分布的样本，从而更好地学习本地结构和优化语境，同时获得比现有方法更好的泛化表现和竞争性结果。

    Mar, 2022

  • 基于势场的深度度量学习

    深度度量学习的一篇研究论文通过使用替代方法，建立了一个组合模型，引入电场物理学的启发，将潜在作用场作用在不同类别图像嵌入之间的交互上，并在实际数据集中实现了优异的性能。

    May, 2024

  • 代理合成：使用合成类学习深度度量学习

    本研究提出了一种名为 Proxy Synthesis 的正则化方法，旨在加强深度度量学习中的强泛化能力，尤其关注于构建同时适用于已知和未知类别的嵌入空间，其中包含了合成嵌入和代理的相关性及其对于合成类的模拟能力，并通过类关系和平滑决策边界，进一步实现对于未知类别的鲁棒性。实验证明该方法可以极大提升基于代理的模型的性能，并达到了最先进水平。

    Mar, 2021

  • 深度度量学习的鲁棒性标定代理损失

    本文提出了一种 Calibrate Proxy (CP) 结构，它使用真实样本信息提高了代理损失中的相似度计算，并引入校准损失来约束代理优化向类特征中心。 通过多个实验验证了我们方法在三个公共数据集和多个合成噪音标签数据集上的有效性，表明我们的方法可以有效地改善常用代理损失在正常和噪声数据集上的表现。

    Apr, 2023