CVPRJun, 2022

可切换表示学习框架及自兼容性

PDF
TL;DR本研究提出了一种具有自兼容性的 Switchable 表征学习框架，并使用不确定性估计动态调整子模型的优先级，最终在评估数据集上获得了最先进的性能。
visual searchcompatible learningsub-modelsuncertainty estimationstate-of-the-art performance
发现论文，激发创造
  • 朝向向后兼容的表示学习

    提出了一种名为 “backward-compatible training (BCT)” 的框架来训练嵌入模型，它可使不同维度和架构、通过不同损失函数学习的视觉特征具有兼容性，从而实现新计算机制与旧计算机制之间的互换，使视觉搜索系统能够跳过计算所有以前看到的图像的新功能。

    Mar, 2020

  • 兼容性敏感的异构视觉搜索

    本篇研究针对资源限制下的视觉搜索问题，提出了一种通过生成来自大型模型的画廊嵌入和使用紧凑模型提取查询嵌入的方法来减轻准确性和效率之间难以解决的关系，并通过修改参数和架构来实现嵌入之间的兼容性，从而实现了 80 倍和 23 倍的成本降低，而在 DeepFashion2 和 IJB-C 等挑战性的检索任务中，准确率仅比最佳嵌入模型低不到 0.3% 和 1.6%。

    May, 2021

  • 探索不变与等变表征在少样本学习中的互补优势

    本论文提出了一种新的训练机制，同时注重等变性和不变性，使得模型能够充分学习具有独立性的特征以及几何变换的结构，进而能够在具有少量数据的情况下很好地推广。通过引入自我监督的蒸馏目标，本文的方法即使不使用知识蒸馏，在五个流行数据集上的表现也能超过目前最先进的 few-shot learning 方法。

    Mar, 2021

  • 稳定的表示：最优逼近兼容性与改进模型替代的影响

    学习兼容表示使得语义特征可以随着时间的推移而交替使用，本文通过展示 $d$-Simplex 固定分类器学习的平稳表示在其形式定义的两个不等式约束下最优近似兼容表示，不仅为未来的研究奠定了坚实基础，同时也提供了可以在实际学习情景中应用的启示。

    May, 2024

  • 跨领域少样本分类的自适应语义一致性

    通过设计自适应语义一致性机制，提出了一种适应性的源领域知识转移框架（ASC），通过在源领域预训练中重用源图像并设计自适应的权重分配策略，实现了源领域知识向目标领域的显式转移，有效地减轻了跨领域 few-shot 分类中过拟合的问题。

    Aug, 2023

  • 跨模型兼容性的统一表示学习

    本研究提出一种统一的表示学习框架，解决了在视觉搜索应用中交叉模型兼容性（CMC）问题，通过引入轻量级的 RBT 模块和新的训练方案来优化嵌入空间，该方案在各种具有挑战性的视觉搜索情景下，包括面部识别和个人重新识别，均优于先前的方法。

    Aug, 2020

  • 基于视觉语言模型的少样本类增量学习

    我们介绍了一种创新的 FSCIL 框架，利用语言正则化器和子空间正则化器，该框架不仅能够使模型拥抱有限数据的新类别，还能确保对基础类别的性能保持，通过在基础训练阶段利用视觉 - 语言模型提取的语义信息和在增量训练阶段促进模型对图像和文本语义之间微妙连接的学习。

    May, 2024

  • 通过学习兼容表示来实现可重复使用的网络组件

    提出生产可重复使用的网络组件通过改变训练过程实现网络兼容性，进而在不降低准确率的基础上，将不同任务的网络组件分为特征提取器和目标任务头，从而在标准数据集上进行图像分类等任务，并演示了在无监督域适应，跨不同架构的特征提取器转移分类器，以及提高转移学习的计算效率等三个应用。

    Apr, 2020

  • 时间序列预测中构成良好对比学习的因素是什么？

    本文通过系统分析不同的自监督对比学习策略及变量间的相互作用，发现使用 Transformer 模型综合优化 Mean Squared Error (MSE) 损失和自监督对比学习 (SSCL) 是进行时间序列预测的最有效的方法，并可优化预测结果的准确性。

    Jun, 2023

  • 前向兼容的少样本类增量学习

    提出前瞻性培训方法（FACT）来应对少量类渐进学习的挑战，该方法通过为未来新类保留嵌入空间并预测可能的新类来保持前向兼容性，并使用虚拟原型来更好地整合新老类，得到了验证 FACT 的状态 -of-the-art 性能。

    Mar, 2022