本篇研究针对资源限制下的视觉搜索问题，提出了一种通过生成来自大型模型的画廊嵌入和使用紧凑模型提取查询嵌入的方法来减轻准确性和效率之间难以解决的关系，并通过修改参数和架构来实现嵌入之间的兼容性，从而实现了 80 倍和 23 倍的成本降低，而在 DeepFashion2 和 IJB-C 等挑战性的检索任务中，准确率仅比最佳嵌入模型低不到 0.3% 和 1.6%。

May, 2021

提出了一种名为 “backward-compatible training (BCT)” 的框架来训练嵌入模型，它可使不同维度和架构、通过不同损失函数学习的视觉特征具有兼容性，从而实现新计算机制与旧计算机制之间的互换，使视觉搜索系统能够跳过计算所有以前看到的图像的新功能。

Mar, 2020

本文介绍了一种名为学习兼容嵌入（LCE）的框架，通过直接或通过转换将模型之间的类中心对齐，并限制新模型更紧凑的内部类分布来实现交叉模型兼容性和向前 / 向后兼容性训练。在实验中，LCE 有效地实现了模型兼容性，并取得了较高的准确性。

Aug, 2021

提出了 MixBCT，一种简单而高效的反向兼容训练方法，作为适用于不同质量旧模型的统一框架，通过构建单一损失函数实现了反向兼容训练。

Aug, 2023

本文提出了一种有效的结构化学习方法来解决个人重新识别问题，在大多数经过评估的基准数据集上性能优于当前最先进的方法。该方法基于多个低级手工制作和高级视觉特征，并制定了两种优化算法，直接优化常用于个人重新识别的评估措施，也称为累积匹配特性（CMC）曲线，并在实际中具有重要意义的范围内将重新识别性能集中起来。这些因素的结合导致了一个个人重新识别系统，可优于大多数现有算法。更重要的是，我们将基准测试的 rank-1 识别率从 40％提高到 50％、从 16％提高到 18％、从 43％提高到 46％、从 34％提高到 53％、从 21％提高到 62％。

Mar, 2015

介绍了在视觉检索系统中，从传统模型更新到新模型需要重新计算所有图片嵌入，所以引入兼容性训练（BCT）的方法，并提出了 Adversarial Backward-Compatible Training（AdvBCT）方法进行对比实验，表明其在兼容性和辨别性方面均优于其他 BCT 方法。

May, 2023

通过对比多个候选嵌入，CMC 框架提供上下文化的表示，并且能够同时处理多个比较，从而作为轻量级的重新排序器和加强的检索器。

May, 2024

本文提出了一种名为 “Cross-modal BT (XBT)” 的方法，通过引入一个经过预训练的投影模块来解决视觉 - 语言预训练模型（如 CLIP）的向后兼容问题，有效降低了跨模态训练所需的图像 - 文本对数量并提高了效率，实验结果显示 XBT 的有效性及其在新 VLP 模型出现时实现无需回填的升级的潜力。

May, 2024

我们提出了具备向后兼容性的一种连续学习人员重识别模型，通过引入跨模型兼容性损失和知识整合方法，实现在连续到来的数据集上训练模型时对先前训练的旧模型的向后兼容性。实验结果表明，与现有方法相比，所提出的方法在向后兼容性方面取得了显着提高的性能，是更实际的人员重识别领域的有希望的工具。

Mar, 2024

UC2 是第一个基于机器翻译增强的框架，用于跨语言跨模态表示学习。我们扩充了现有的只有英语的数据集，通过机器翻译引入了其他语言的图像标题，然后将标准的 Masked Language Modeling 和 Image-Text Matching 训练目标扩展到多语言环境，通过共享视觉上下文（即使用图像作为枢纽）来捕获不同语言之间的对齐。最终我们提出了两个新的预训练任务，Masked Region-to-Token Modeling（MRTM）和 Visual Translation Language Modeling（VTLM），以加快图像和所有感兴趣语言的联合嵌入空间的学习。在多语言图像文本检索和多语言视觉问答基准上的评估表明，我们的提议框架在各种非英语基准上实现了新的最先进状态，并在英语任务上保持与单语预训练模型相当的性能。

Apr, 2021