ICMLMay, 2023

CSP：自监督对比空间预训练用于地理空间视觉表示

PDF
TL;DR本研究提出了一种基于自监督学习的框架 Contrastive Spatial Pre-Training（CSP），用于处理大量具有地理标记信息的图像，通过对地理信息进行编码和对比学习，可以提高模型在图像分类任务中的性能。
geo-tagged imagescontrastive learninggeospatial informationself-supervised learningimage classification
发现论文，激发创造
  • 地理感知的自监督学习

    本研究旨在将对比学习方法应用于地理定位的数据集上，通过利用遥感数据的时空结构设计预处理任务和构建时空正对来消除对比学习和监督学习之间的差距，并在遥感图像分类、目标检测和语义分割等任务上展示该方法的有效性，同时还表明该方法可以应用于地理标记的 ImageNet 图像并提高相应任务的性能。

    Nov, 2020

  • 具有自监督的情境化时空对比学习

    本文提出了一种基于上下文感知的时空对比学习（ConST-CL）的方法，该方法成功地实现了学习细粒度视频表示，利用区域预文本任务引导模型从一个视角到另一个视角转换，并整合整体和局部表示的并行学习过程。我们在多个数据集上评估了所学得的表示，并展示了 ConST-CL 在 6 个数据集上取得了具有竞争力的结果，包括 Kinetics，UCF，HMDB，AVA-Kinetics，AVA 和 OTB。

    Dec, 2021

  • 空间一致的表示学习

    本论文提出了一种空间一致性表示学习算法 (SCRL)，通过几何翻转和缩放操作，采用新颖的自监督目标生成具有相关性的局部区域的一致空间表示，我们的方法比目前的监督预训练方法和最新的自监督学习方法在各种基准数据集上均表现出显著的性能改进。

    Mar, 2021

  • Few-Shot 分类的空间对比学习

    本文探讨使用反差学习作为辅助训练目标来促进更通用和可转移的特征，在此基础上提出了一种基于注意力的空间反差目标来学习本地区分和类别不可知特征。通过大量实验证明了该方法优于最先进的方法，证实了学习良好、可转移的嵌入在 few-shot 学习中的重要性。

    Dec, 2020

  • 基于引导增强的自我监督表示学习的遥感图像理解

    利用自我监督学习从大规模、无标签数据集中学习表示已被证明对于理解各种远程感知图像非常有效。本研究提出了一种增强型自我监督表示学习方法，通过简单而高效的预训练流程，解决了对比学习中的假阳性匹配问题以及重构学习中缺失上下文信息的问题，并通过语义一致性约束提供上下文信息。实验证明该方法在土地覆盖分类、语义分割、目标检测和实例分割等多个下游任务上优于全监督学习模型和目前最先进的自我监督学习方法，表明该方法能够学习出具有高泛化性和可迁移性的远程感知表示。

    Sep, 2023

  • 利用导航信息学习视觉表示

    本研究旨在利用空间和时间的信息来改善自我监督学习，以提高分类性能。我们设计了一种流程来生成来自 ThreeDWorld 的自我视觉图像并记录相关的导航信息。修改动量对比（MoCo）模型，以代替实例区分进行预训练阶段中两个视图的相似性评估。结果显示，对比实例区分方法，本方法优于自我监督训练状态下的性能.

    Feb, 2022

  • 从 Patches 到对象：利用空间推理以获得更好的视觉表现

    本文提出了一种基于空间推理的新辅助预训练方法，使用对比学习的灵活公式引入空间推理作为判别自监督方法的辅助任务，从而实现更详细和复杂的内部表征的学习，实验结果表明，在线性评估中下游性能得到了显著改善。

    May, 2023

  • 连锁原型对比学习

    本研究提出了一种简单而有效的对比学习框架来解决 Contrastive Self-supervised Learning (CSL) 中样本不足问题，将同一个输入的不同视角拉近，不同输入的视角推远，提高了视觉表征的质量，并在 ImageNet-1K 数据集上表现出了超越完全监督训练版本的性能。

    Aug, 2022

  • 深度无监督学习的空间对比

    该论文采用对比学习方法提出了一种基于空间区域的卷积神经网络无监督训练方法，可与传统的神经网络结构和训练技巧相结合，提高模型性能。

    Nov, 2016

  • 对比自监督学习综述

    本研究对自监督学习中采用对比学习方法的常见预训练任务及各种方法进行了广泛的回顾，并通过图像分类，目标检测和动作识别等多个下游任务的性能比较，探讨了当前方法的限制以及未来发展方向。

    Oct, 2020