本研究探索了将图像级别与局部级别的判别相结合的自我监督表示学习方法，通过同时观察局部和全局视觉特征来增强学习表示的质量。我们提出了一个简单而有效的补丁匹配算法，借助视觉变换器（ViT）作为骨干网络，从而生成图像级别和补丁级别的表示。结果显示，我们的方法在图像分类和下游任务中表现优于最先进的图像级别表示学习方法。

Oct, 2023

本文提出了一种基于空间推理的新辅助预训练方法，使用对比学习的灵活公式引入空间推理作为判别自监督方法的辅助任务，从而实现更详细和复杂的内部表征的学习，实验结果表明，在线性评估中下游性能得到了显著改善。

May, 2023

本文提出了一种高效的基于图像补丁学习的框架，仅需一个图像输入输出对进行训练，实验证明该方法适用于监督式图像去模糊和超分辨率任务，并显著提高了学习模型的样本效率、泛化能力和时间复杂度。

Apr, 2024

利用自我监督学习从大规模、无标签数据集中学习表示已被证明对于理解各种远程感知图像非常有效。本研究提出了一种增强型自我监督表示学习方法，通过简单而高效的预训练流程，解决了对比学习中的假阳性匹配问题以及重构学习中缺失上下文信息的问题，并通过语义一致性约束提供上下文信息。实验证明该方法在土地覆盖分类、语义分割、目标检测和实例分割等多个下游任务上优于全监督学习模型和目前最先进的自我监督学习方法，表明该方法能够学习出具有高泛化性和可迁移性的远程感知表示。

Sep, 2023

本文设计了一种称为 SelfPatch 的简单而有效的视觉预训练任务，利用 ViT 的特性，在无需人工注释的情况下提高不同类型视觉任务的性能，通过训练神经网络对各种图像的无监督学习来实现。

Jun, 2022

本文提出了一种基于弱监督的学习方法，通过将图像视为一个包中的实例将其融入到深度神经网络中，将弱监督的多实例学习约束与深度神经网络集成在一起，并采用端到端的方式优化网络以实现对象分类和发现任务。在 PASCAL VOC 数据集上的测试表明，该方法在对象分类方面可以获得最先进的性能，并且在对象发现方面也具有很强的竞争力，并且测试速度比竞争者更快。

May, 2017

为了提高基于视觉的深度强化学习的样本效率，我们提出了一种名为 SPIRL 的新方法，用于自动提取输入图像中的重要区域。SPIRL 基于自编码器模型，在自监督训练的基础上，通过从随机采样的区域重建图像，再利用这些预训练模型检测和选择显著区域。在强化学习中，SPIRL 代理通过注意力机制处理选定的显著区域。我们在 Atari 游戏上经验证明 SPIRL 在数据效率方面优于相关先进方法，包括一些传统的基于模型和基于关键点的模型。此外，我们还分析了我们模型的可解释性能力。

Jan, 2024

本文旨在通过使用追踪作为代理任务，设计了一个 Catch-the-Patch（CtP）游戏，让 3D-CNN 模型学习图像表示，以帮助视频相关任务的完成。经过广泛实验，CtP 预训练特征与其他视频预训练方法相比具有更优异的性能。

May, 2021

本文提出了一种新的渐进式补丁学习方法来提高弱监督语义分割中的局部细节提取，进一步将特征破坏和补丁学习扩展到多级粒度，同时与多阶段优化策略相结合来提供模型对不同程度的特征提取能力。此方法超越了大多数现有的弱监督语义分割方法，在 PASCAL VOC 2012 数据集上取得了出色的表现。

Sep, 2022

本文提出了一个新的自监督表征学习框架，将其作为图像检索环境中排名问题来进行，通过从图像中获取大量随机视图（增强）来解决此问题，该框架称为 S2R2。在 STL10 和 MS-COCO 上进行训练，S2R2 优于 SimCLR 和基于聚类的对比学习模型 SwAV，而且更加简单。在 MS-COCO 上，S2R2 的性能优于 SwAV 和 SimCLR，这表明 S2R2 在多样场景下更为有效，可以消除自监督表征学习对于以对象为中心的大型训练数据集的需求。

Oct, 2020