自监督表示学习的定位加速

AAAIApr, 2020

Distilling Localization for Self-Supervised Representation Learning

Nanxuan Zhao, Zhirong Wu, Rynson W.H. Lau, Stephen Lin

TL;DR通过数据驱动的前景显著性估计和复制粘贴来生成图像视图，实现对背景不变性的学习，从而训练代表性忽略背景内容并专注于前景的对比学习模型，并实现了在 ImageNet 分类和 PASCAL VOC、MSCOCO 目标检测上的显著性能提升。

Abstract

Recent progress in contrastive learning has revolutionized unsupervised representation learning. Concretely, multiple views (augmentations) from the same image are encouraged to map to the similar embeddings, while views from different images are pulled apart. In this paper, through vi

contrastive learning unsupervised representation learning foreground object localization data-driven approach self-supervised learning

发现论文，激发创造

揭开对比自监督学习的神秘面纱：不变量，数据增强和数据集偏差

通过量化实验，我们发现了自监督学习方法的增益来源及其局限性，并且提出了一种利用非结构化视频学习表示以实现更高视点不变性的方法。

Jul, 2020

LoDisc: 全局 - 本地辨别特征的自监督细粒度视觉识别学习

通过自监督局部微观对比学习任务，将细微的局部特征学习融合到全局自监督对比学习中，形成一个纯自监督的全局 - 局部微细对比学习框架，从而有效提高了细粒度图像特征表示的品质。

Mar, 2024

客观感知对比学习用于无偏场景表征

我们提出了一种新颖的针对物体感知的对比自我监督学习框架，通过首先局部化自我监督学习中的对象，然后通过考虑推断出的对象位置的适当数据增强来去偏置场景相关性，进而提高表示学习框架的有效性。

Jul, 2021

基于对比学习的无监督学习目标检测

我们提出了一种通过无监督 / 自监督学习训练单阶段目标检测器的创新方法，该方法有潜力彻底改变标注过程，大大减少人工标注所需的时间和成本，并为之前难以实现的研究机会铺平了道路。与现有的主要针对分类任务的无监督学习方法不同，我们的方法承担了目标检测的独特挑战，开创了 intra-image 对比学习与 inter-image 对应的概念，能够获取目标检测所需的重要位置信息。该方法熟练地学习和表示这些位置信息，并生成信息丰富的热图。我们的结果展示了 89.2% 的卓越准确率，在计算机视觉领域的无监督目标检测领域突破性地提高了 15 倍，相比随机初始化。

Feb, 2024

空间一致的表示学习

本论文提出了一种空间一致性表示学习算法 (SCRL)，通过几何翻转和缩放操作，采用新颖的自监督目标生成具有相关性的局部区域的一致空间表示，我们的方法比目前的监督预训练方法和最新的自监督学习方法在各种基准数据集上均表现出显著的性能改进。

Mar, 2021

无监督学习视觉表示的对比方法再探

本文将需要自我学习来改进现有模型的数据集偏差性进行了深入研究，并成功地在不同类型数据集上改善了模型，同时介绍了一种具有多尺度裁剪、强数据增强和近邻策略的改进自监督学习方法，并通过 MoCo 模型在语义分割和视频实例分割任务中实现了优秀的效果。

Jun, 2021

自监督视觉预训练的密集对比学习

本文介绍了一种基于像素的密集自监督学习方法，通过考虑局部特征之间的对应关系，实现了对密集预测任务的有效优化，包括物体检测，语义分割和实例分割。与基线方法 MoCo-v2 相比，该方法仅引入了微不足道的计算开销，但表现出了更好的性能。

Nov, 2020

增强自监督学习的医学图像分割本地化区域对比

本研究提出了一种新颖的对比学习框架，它将本地化区域对比技术（LRC）融入到现有的半监督自监督预训练方法中，以增强医学图像分割的性能。通过在三个多器官分割数据集上的大量实验，我们证明在受限注释的情况下将 LRC 集成到自监督方法中可以显著提高分割性能。此外，我们还表明 LRC 也可以应用于完全监督的预训练方法以进一步提高性能。

Apr, 2023

基于对比度聚焦的视角不变自监督骨架动作识别学习

该研究提出了一种名为 FoCoViL 的自监督框架，使用对比损失函数学习共同的视图不变属性，进而获得更具判别能力的潜在表示，并通过自适应聚焦方法来增强对比学习以获得更清晰的聚类界限，该方法在无监督和有监督分类器上都表现良好。

Apr, 2023

本地 - 全局自监督视觉表示学习

本研究探索了将图像级别与局部级别的判别相结合的自我监督表示学习方法，通过同时观察局部和全局视觉特征来增强学习表示的质量。我们提出了一个简单而有效的补丁匹配算法，借助视觉变换器（ViT）作为骨干网络，从而生成图像级别和补丁级别的表示。结果显示，我们的方法在图像分类和下游任务中表现优于最先进的图像级别表示学习方法。

Oct, 2023