CVPRMar, 2022

跨视角自我监督学习中学习何处学习

PDF
TL;DR本研究介绍了新方法 LEWEL，该方法通过适应性地聚合特征的空间信息来对齐嵌入向量，并达到更好的特征学习。该方法利用投影头将其解释为每个像素的投影，从原始特征预测一组空间对齐映射，通过这些对齐映射按空间加权聚合特征，因此得到了一系列对齐的嵌入向量。在图像级和密集预测上，LEWEL 都有显着改善表现。
self-supervised learningprojection headspatial alignmentembeddingfeature learning
发现论文，激发创造
  • 自监督对比学习的几何理解

    本文研究了自监督学习中编码器和映射器的关系，发现数据增强策略的增加会导致映射器变得更加不变，从而学习将数据投影到低维空间中，具有理论和实验结果的几何学解释。

    May, 2022

  • 具有辅助增强的自监督学习与引导式投影仪

    本文提出了一种条件增强感知的自监督学习方法（CASSLE），使用投影器网络对图像进行辅助引导，以实现对不同数据扩充方法的感知敏感性，并可获得多项下游任务的最新性能表现。

    May, 2023

  • 对比自监督学习和非对比自监督学习恢复全局和局部谱嵌入方法

    本文提出了一种基于谱流形学的统一框架，以解决自监督学习方法的局限性并提供有意义的表示学习方法，通过将 VICReg，SimCLR 和 BarlowTwins 等自监督学习方法与谱方法相对应，得到了闭合形式的最佳表示以及线性区间内的网络最佳参数，并揭示了对训练中使用的成对关系以及下游任务性能的影响，以及对于两种谱嵌入方法之间的第一种理论桥梁的暗示。

    May, 2022

  • 利用本地和全局表示：一种新的自监督学习策略

    该研究提出了一种新的自监督学习策略，称为 LoGo，它通过不同的本地和全局裁剪来促进特征的多样性，并取得了在 1/10 数据的情况下超越有监督模型的转移学习的最好结果。

    Mar, 2022

  • 野外点云的时空自监督学习

    本文提出了一种利用空间与时间正对数据的自监督学习策略，该方法包括了点聚集学习和无监督物体跟踪的方法，并通过对两个大规模 LiDAR 数据集的自监督训练和模型迁移得出：该方法在点云分割领域胜过现有的、只利用空间信息或忽略时序性质的自监督学习方法。

    Mar, 2023

  • SegLoc”: 针对安全检查 X 射线图像的密集预测任务量身定制的新型视觉自监督学习方案的研究

    使用自我监督学习方案对人工智能进行了重要进展，将对比学习整合到现有的自我监督学习模型中，在计算机视觉领域取得了显著的进展，通过提出的模型 Segmentation Localization 对密集预测的语义分割任务进行了评估，并通过实现每个类别一个队列的思想在 MoCo-v2 中避免了假阴性对。

    Oct, 2023

  • 自监督学习的逆向工程

    本文深入分析了自监督学习的机制以及其对表示学习的影响，揭示了自监督学习在样本聚类方面的潜在驱动作用，同时证实了该方法所训练的表示与语义类别之间存在着密切的对齐关系，并且这种对齐关系随着训练和网络深度的加深而不断增强，这对于提高自监督学习方法的性能和效果具有重要的理论和实际意义。

    May, 2023

  • 医学图像分割的自我监督对齐学习

    最近，自监督学习方法已被用于对二维和三维医学图像的分割模型进行预训练。本文提出了一种新的自监督对齐学习框架来预训练医学图像分割的神经网络，其中包括了一个全新的局部对齐损失和全局位置损失。实验结果表明，该对齐学习方法在有限标注的 CT 和 MRI 数据集上与现有的自监督预训练方法具有竞争力。

    Jun, 2024

  • 从多视角探寻规律：自监督和正则化学习用于多视角物体识别

    研究了多角度自我监督学习中的物体不变表示问题，提出了一种随机原型嵌入方法，并使用多角度一致性正则化来实现该方法。实验表明，该方法能够在已知和未知数据上优于其他自我监督学习方法，并且可以应用于少量数据场景中。

    Mar, 2020

  • 自我监督表示学习的视觉地理定位

    利用自监督学习方法提升视觉地理定位技术性能和训练效率，通过统合 SimCLR、MoCov2、BYOL、SimSiam、Barlow Twins 和 VICReg 等多种自监督学习方法，研究训练策略和参数设置对视觉地理定位任务的适应性

    Jul, 2023