CVPRMar, 2021

探索不变与等变表征在少样本学习中的互补优势

PDF
TL;DR本论文提出了一种新的训练机制，同时注重等变性和不变性，使得模型能够充分学习具有独立性的特征以及几何变换的结构，进而能够在具有少量数据的情况下很好地推广。通过引入自我监督的蒸馏目标，本文的方法即使不使用知识蒸馏，在五个流行数据集上的表现也能超过目前最先进的 few-shot learning 方法。
few-shot learningembedding networkequivarianceinvarianceself-supervised distillation
发现论文，激发创造
  • LSFSL: 利用形状信息进行少样本学习

    LSFSL improves the generalizability and robustness of few-shot learning models by incorporating relevant priors and addressing shortcut learning in deep neural networks.

    Apr, 2023

  • 多方位原型的少样本图像分类

    本文提出了一种基于 facets 的自适应相似性度量方法，该方法可以被用于改进现有的基于度量的 few-shot learning 模型，并在 miniImageNet 和 CUB 数据集上实现了 state-of-the-art 的表现。

    Feb, 2021

  • 视觉 - 语义对比对齐在小样本图像分类中的应用

    本文介绍了一种对称的对齐机制，用于学习从极少的例子中获取更广义的视觉概念的方法。实验结果表明，该方法是通用的，并提供了一个强大的基准。

    Oct, 2022

  • 对比学习的少样本分类

    本文提出了一种新的对比学习框架，将其无缝地整合到预训练阶段和元训练阶段，以提高少样本分类的性能，并使用交叉视图的情节训练机制进行最近的质心分类，并采用基于距离缩放的对比损失。

    Sep, 2022

  • 基于原语发现和增强的组合式小样本识别

    该研究提出了一种模拟人类视觉学习的方法，通过发现并增强重要基元从而实现组合识别，达到了当下 few-shot learning 任务领域最好的表现，并更好地利用这些基元进行组合创新。

    May, 2020

  • 提高对比表示学习中的变换不变性

    本文主要介绍了强化对比学习得到的表示的不变性的方法，通过引入新的正则化器、特征平均法和可微分生成过程，对旋转等变性进行限制和控制，提高了表示在后续任务中的表现和鲁棒性。

    Oct, 2020

  • 全局类别表示的小样本学习

    本篇论文提出一种使用基类和新类训练样本学习全局类别表示来解决少样本学习问题的方法，该方法在训练过程中涉及到新类训练样本，并且采用了有效的样本综合策略避免过拟合，同时能够轻松扩展到更具挑战性的 FSL 场景。

    Aug, 2019

  • LiDAR 目标检测的等变时空自监督

    基于空间和时间增强的等变学习框架，通过鼓励平移、缩放、翻转、旋转和场景流的等变性，提高了三维物体检测的性能。

    Apr, 2024

  • 等变对比学习

    本文介绍了一种新的自我监督学习框架 E-SSL，它扩展了现有自我监督方法，并提出了一种新的目标函数以实现对输入的等变性要求，旨在提高表示的语义质量。该方法在多个计算机视觉基准数据集上进行验证，并在光子学领域的回归问题中展示了其实用性。

    Oct, 2021

  • 物体标志表示的等变和不变学习

    该论文提出了一种将基于实例和空间差异的对比学习相结合的简单而有效的方法，在训练的中间层次中表示对象明显地预测对象地标，通过空间对比学习进一步提高匹配和少量样本标志物回归任务的性能。该方法优于现有同类方法，并在标志物学习的标准基准测试以及该论文提出的新挑战上得到了验证。

    Jun, 2020