图像检索的排名损失优化

Sep, 2023

Optimization of Rank Losses for Image Retrieval

Elias Ramzi, Nicolas Audebert, Clément Rambour, André Araujo, Xavier Bitot...

TL;DR图像检索中，标准评估指标依赖于分数排名，如平均精度（AP）、前 k 个结果的召回率（R@k）、归一化折现累积增益（NDCG）。本研究引入了一种用于鲁棒且可分解的排名损失优化的通用框架，解决了端到端训练深度神经网络时面临的两个主要挑战：非可微性和非可分解性。首先，我们提出了一种通用的排名操作符替代品 SupRank，它适用于随机梯度下降，提供了排名损失的上界并保证了鲁棒训练。其次，我们使用一个简单而有效的损失函数来减小排名损失的批次平均近似与整个训练集上的损失值之间的可分解性差距。我们将我们的框架应用于图像检索的两个标准指标：AP 和 R@k。此外，我们还将我们的框架应用于分层图像检索。我们引入了 AP 的扩展，即分层平均精度 H-AP，并对其以及 NDCG 进行了优化。最后，我们创建了第一个分层地标检索数据集。我们使用半自动流程创建分层标签，扩展了大规模的 Google Landmarks v2 数据集。该分层数据集可在此 URL 公开获取。代码将在此 URL 发布。

Abstract

In image retrieval, standard evaluation metrics rely on score ranking, \eg average precision (AP), recall at k (R@k), normalized discounted cumulative gain (NDCG). In this work we introduce a general framework fo

image retrieval evaluation metrics rank losses optimization deep neural networks hierarchical image retrieval

发现论文，激发创造

基于排名的损失函数的高效优化

提出了一种新的 quicksort-flavored 算法，可以在大量训练数据集上优化非可分离损失函数。已证明，该方法适用于包括 AP 和 NDCG 基础上的损失函数，并且对于我们的方法渐近计算复杂度不能提高。我们展示了该方法在优化结构化铰链损失上的效果并且得到了比简单的可分离损失函数更好的结果，同时需要相当的训练时间。

Apr, 2016

哈希作为关键词感知的学习排名策略

本文讨论了利用哈希生成数据二进制编码进行近邻检索的学习排名公式，旨在直接优化基于排名的评估指标，例如平均精度（AP）和标准化折扣累积增益（NDCG）。文章首先观察到，整数值哈明距离通常导致绑定的排名，并建议使用绑定的 AP 和 NDCG 版本来评估哈希检索。为了优化绑定排名指标，我们推导了它们的连续松弛，然后使用深度神经网络进行基于梯度的优化。结果，我们在常见基准测试中建立了图像检索的新领域。

May, 2017

用平均精度学习：使用整体损失来训练图像检索

本研究借助最近的榜单损失函数理论和实践证明，通过直接优化全局平均精度，提出了一个图像检索模型，消除了现有模型所需的工程努力和基于工具性方法的需求，并在许多标准检索基准测试中建立了新的基准。

Jun, 2019

NeuralNDCG: 直接通过可微分的排序松弛优化排名指标

本文提出了一种 NeuralNDCG 算法作为一种新颖的不可区分且可微分的排序近似来解决传统 LTR 算法中优化目标与评估标准之间的矛盾，并且我们介绍了两种这种算法的变体，实证评估结果显示其性能优于之前针对优化 NDCG 的工作，并且与最先进算法基本持平。

Feb, 2021

针对密集目标检测的 AP Loss 再探：自适应排序对选择

本文回顾了平均精度丢失 (AP loss)，揭示了选择正负样本之间排名对的关键性，并提出了两种改进 AP loss 的策略。第一个是新的自适应成对误差 (APE) loss，专注于正负样本中的排名对。此外，利用聚类算法和规范化排名分数和本地化分数选择更精确的排名对。在 MSCOCO 数据集上的实验证明了我们提出的方法相对于当前的分类和排名损失的优越性。

Jul, 2022

非分解损失函数的在线和随机梯度方法

本文提出了一种针对非可分离损失函数的在线学习框架，通过引入新型算法设计和分析，该模型具有高效的在线学习算法，具有亚线性遗憾和在线转换界限；进一步开发了可扩展的随机梯度下降求解器，经过实验在真实数据集上证明，该方法比近期提出的切割面算法快得多。

Oct, 2014

精准一阶段物体检测的 AP 误差

本文提出了一种有效的方法，将一阶段目标检测器的分类任务替换为排名任务，并采用平均准确率 (Average-Precision) 损失函数，通过优化算法，处理了训练中的极端正负样本不平衡问题，获得了比现有 AP-based 优化算法更出色的实验结果。

Aug, 2020

具有 AP 损失函数的精确单阶段目标检测

本文提出了一种基于排序任务和平均准确率损失（AP-loss）的新框架和一种新的优化算法，以解决一阶段目标检测器中的分类任务造成前景背景极度不平衡问题。实验证明这种方法可以有效提高检测性能。

Apr, 2019

使用黑盒微分优化基于排名的评估指标

针对计算机视觉模型的性能评估中常用的排名度量标准由于其不可微和不可分解的特性而直接优化仍然存在挑战。本研究提出了一种高效、有理论支持且通用的方法，使用小批量梯度下降来区分排名度量标准，并解决使用排名度量标准作为优化目标所导致的优化不稳定性和监督信号的稀疏性问题。基于召回率和平均精度的损失被应用于图像检索和目标检测任务中，取得了与标准图像检索数据集上的最先进性能相竞争，并在接近最先进的目标检测器上始终提高性能。

Dec, 2019

关系代理损失学习

本文旨在解决机器学习中的评估指标通常难以作为损失函数的问题，通过重新审视代理损失学习，并提出了一种基于排名相关性优化的方法来最大化代理损失和度量之间的关系进行代理损失学习。实验证明，该方法在图像分类、神经机器翻译等各种任务上都获得了显着的效率和性能提升，并在人体姿态估计和机器阅读理解任务上优于现有方法。

Feb, 2022