Aug, 2020

探究图像间不变性以实现无监督视觉表示

PDF
TL;DR本研究通过对伪标签的维护、采样策略和决策边界的设计进行了综合实证研究，提出了一种统一的通用框架，支持无监督内部和跨图片不变性学习的集成。通过精心设计的比较和分析，我们揭示了多个有价值的观测结果，并展示了最终模型 InterCLR 在多个标准基准测试中对内部图像不变性学习方法的稳定改进。我们希望这项工作能为制定有效的无监督跨图片不变性学习提供有用的经验。
contrastive learninginter-image invarianceunsupervised learningpseudo-label maintenancesampling strategy
发现论文，激发创造
  • 带有跨视频循环一致性的图像表示对比学习

    本文研究了自监督表示学习的核心方法之一 —— 图像内部不变性学习，提出了一种新的基于循环一致性的对比学习方法，探索了跨视频关系，实现了图像表示的有效学习，并在多个下游任务中获得了显著的改进。

    May, 2021

  • 自监督视觉表征学习的传递不变性

    文章介绍了一种利用自监督学习的图形结构来学习具有不变性特征的视觉表示，并应用该表示在不同的识别任务中取得了显著性能提升。

    Aug, 2017

  • 揭开对比自监督学习的神秘面纱：不变量，数据增强和数据集偏差

    通过量化实验，我们发现了自监督学习方法的增益来源及其局限性，并且提出了一种利用非结构化视频学习表示以实现更高视点不变性的方法。

    Jul, 2020

  • Un-Mix: 重新思考无监督视觉表示学习中的图像混合

    该论文提出了一种基于标签空间的无监督学习方法 (Un-Mix)，通过混合输入数据进行联合工作，从而学习到更加精细、鲁棒且广义的表示。实验证明，在 CIFAR-10、CIFAR-100、STL-10、Tiny ImageNet 和 ImageNet 等数据集上，该方法均可以在保持基本方法的超参数和训练程序不变的条件下，显著提高模型的泛化性能。

    Mar, 2020

  • 利用 Inter-intra 对比框架进行自监督视频表示学习

    本文提出了一种基于自我监督学习的视频特征表示方法，在传统自我监督学习的基础上通过引入内部负样本来扩展负样本集，从而使单个视频更加充分地表达时空信息，并能够有效地提高视频检索和识别的性能。

    Aug, 2020

  • 无监督图像对图像翻译的对比学习

    本文提出了一种无监督、基于对比学习的图像翻译方法，其主要思想是学习一个判别器，将不同的图像风格区分开来，并使其监督生成器将这些风格在图像之间进行转移。实验结果表明，该方法在视觉质量和翻译准确度方面优于当前领先的无监督基线模型。

    May, 2021

  • 自监督对应学习的对比转换

    本研究旨在通过使用野外未标记视频进行自监督学习的视觉对应关系。我们的方法同时考虑了可靠对应估计的视频内部和视频间的表示关联。

    Dec, 2020

  • 对比学习中的互信息在视觉表征中的应用

    本论文探讨了基于对比学习的图像表示学习方法，提出了一种最大化互信息的下界的目标函数，并在实验中发现选择难度更大的负样本以及视角可以提高算法性能。通过比较多种学习方法，研究结果表明，基于互信息的目标函数可以使得算法在分类、边界框检测、实例分割和关键点检测等任务上获得更好的表现。

    May, 2020

  • 从朋友那儿获取帮助：最近邻对比学习视觉表示

    NNCLR 是一种基于最近邻对比学习的自监督学习算法，将数据集中最近邻作为正样本而不是图像的不同视角，能够提供比预定义的变换更多的语义变化，达到了在 ImageNet 分类和迁移学习基准测试中超越现有先进方法的效果。此外，该方法的鲁棒性能更好，对于数据变换的依赖性更小。

    Apr, 2021

  • 无监督学习视觉表示的对比方法再探

    本文将需要自我学习来改进现有模型的数据集偏差性进行了深入研究，并成功地在不同类型数据集上改善了模型，同时介绍了一种具有多尺度裁剪、强数据增强和近邻策略的改进自监督学习方法，并通过 MoCo 模型在语义分割和视频实例分割任务中实现了优秀的效果。

    Jun, 2021