ICCVSep, 2019

SoftTriple Loss: 无需三元组采样的深度度量学习

PDF
TL;DR通过使用 SoftTriple loss 函数中每一个类别拥有多个中心的方式，可优化浅层距离计量学习算法，而无需采样。
distance metric learningtriplet constraintsdeep neural networkssoftmax losssofttriple loss
发现论文，激发创造
  • 深度度量学习的排序列表损失

    该研究提出一个新的排名列表损失函数来解决现有排名损失函数存在的两个限制，即忽略一些有用的实例和压缩数据分布，以实现在深度度量学习中更快的收敛和更好的性能。

    Mar, 2019

  • 监督式语言模型微调的小样本场景距离度量损失函数

    本文研究了距离度量学习 (Distance Metric Learning，DML) 损失函数对用于分类任务的语言模型有监督微调的影响。在实验中，我们使用 SentEval Transfer Tasks 数据集，发现使用 DML 损失函数可以在少样本情况下提高 RoBERTa-large 模型在下游分类任务中的性能，使用 SoftTriple 损失微调的模型可以比使用标准分类交叉熵损失函数的模型取得更好的结果。同时，我们使用可解释性技术对模型的可靠性和结果进行了全面分析。

    Nov, 2022

  • 密度自适应的深度度量学习

    本论文提出将数据的密度测量集成到 DML 的优化框架中，以在端到端的训练过程中自适应平衡类间相似性和类内变异性，通过在三种嵌入方式上增加密度适应性，不断地在三个公共数据集上展示清晰的改善。

    Sep, 2019

  • 自适应密度判别度量学习

    本文针对之前的距离度量学习算法中存在的一些问题，提出了一种通过分布模型在表示空间中自适应评估相似性，并通过惩罚类别分布重叠实现局部判别的新方法，在多项任务上取得了最新的分类结果，并提高了所学表示的属性集中度和层次恢复能力。

    Nov, 2015

  • 深层度量学习的群体损失

    本文提出了 Group Loss 损失函数，基于可微的标签传播方法实现了嵌入在奇异样本中的相似性、不同群组间的低密度特征，得到了用于聚类和图像检索的先进结果。

    Dec, 2019

  • 使用代理实现无需繁琐的距离度量学习

    使用 proxy 点的三元组损失函数能够更快速地优化距离度量学习，提高零样本学习数据集的精度至多 15％，且比其他三元组损失函数的收敛速度块 3 倍。

    Mar, 2017

  • 深度度量学习的智能挖掘

    本文提出了一种新颖的深度度量学习方法，该方法将三元组模型和嵌入空间的全局结构相结合，依赖于智能挖掘过程以在低计算成本下产生有效的训练样本，通过自适应控制器来加快训练过程的收敛速度，并在实验证明相比其他竞争挖掘方法，我们的方法可以更快地进行更准确的三元组 ConvNets 训练，同时在 CUB-200-2011 和 Cars196 数据集上实现了最新的嵌入结果。

    Apr, 2017

  • 多视角 3D 物体检索的三元中心损失

    研究了在三维目标检测中，利用不同的深度度量学习方法来提高检索效果的效果，并针对性的提出了三种不同的模型评估方式 —— 三元组损失、中心损失和三元组 - 中心损失，进行了广泛的实验验证和效果评估，最终和已有领先算法进行了效果对比。

    Mar, 2018

  • 半监督度量学习：深度复苏

    本文研究了面向深度学习的半监督度量学习，提出了基于随机和图的方法，通过传播标记数据对的相似度来挖掘度量学习的三元组约束，并施加正交性约束以避免模型萎缩。

    May, 2021

  • 理论上完整的三元组损失上界，以提高深度距离度量学习的效率

    本文提出了一种新的线性损失函数来优化深度距离度量学习中的三元组损失函数，无需使用类别中心点最优化步骤，并有了实际运行时间复杂度为线性的算法。该方法在基准数据集上达到了竞争性的检索准确性结果。

    Apr, 2019