ICLRAug, 2020

对比学习中不应该进行对比的内容

PDF
TL;DR本文提出了一种对比学习方法，该方法不需要先前知道特定于任务的不变性，使用多头网络构建不同的嵌入空间来捕捉可变及不变的因素 以提高视觉表示的效果，并发现不变空间和变化空间的连接在包括数据破坏等各种下游分类任务中表现最佳。
self-supervised learningcontrastive learningvisual representationembedding spaceinvariant factors
发现论文，激发创造
  • 为什么自监督模型能够迁移？—— 探究不变性在下游任务中的影响

    本文研究了自监督学习在图像中表征学习的应用，通过对比实例匹配方法，我们发现不同的视觉任务需要不同的数据扩充策略，并且使用具有互补不变性的表征方法可以提高各种下游任务的表现。

    Nov, 2021

  • 提高对比表示学习中的变换不变性

    本文主要介绍了强化对比学习得到的表示的不变性的方法，通过引入新的正则化器、特征平均法和可微分生成过程，对旋转等变性进行限制和控制，提高了表示在后续任务中的表现和鲁棒性。

    Oct, 2020

  • 对比自监督的折旧不变性学习

    本文提出了一种基于自监督学习的泛化表征学习方法，利用不同 iable invariance hyper-parameters 控制表示中编码的不变性，并且通过梯度下降学习线性 readout 和任务特定的不变性要求，无需特定任务的预训练，从而实现了单一表征学习在多种任务中的多样化应用。

    Feb, 2023

  • 将对比学习与动态模型集成，用于从图像中进行强化学习

    本文提出了一种自监督表征学习方法，它将对比学习与动态模型相结合，以协同地实现三个目标，即通过最大化信息 NCE 界来诱导线性预测嵌入，通过显式学习非线性转换模型进一步提高学习嵌入的马尔可夫性以及最大化下一嵌入的互信息，其基于当前动作和当前状态的两个独立增强的嵌入预测，实验表明，与基于对比学习或重建的现有方法相比，我们的方法在样本效率和泛化性能上都取得了更好的结果。

    Mar, 2022

  • 对比学习视觉表示的可转移性广泛研究

    本文通过研究在 12 个不同领域和物体检测任务中的线性评估、全网络转移和少样本识别等方面，系统地探讨了对比学习的不同方法学习到的表示的可迁移性，结果表明对比方法学习到的表示很容易适应不同的任务。除此之外，自监督对比损失与交叉熵 / 监督对比损失的联合目标可增强这些模型的可迁移性。

    Mar, 2021

  • 重新思考对比学习中的增强模块：通过扩展视图学习层次化增强不变性

    本文介绍了一种利用对比学习中数据增强的方法来解决多个数据增强方法所带来的问题，该方法在不同深度上对不同的数据增强实现学习以及扩展对比内容以减少过多的数据增强对于下游任务带来的负面影响，通过实验证明了该方法可以有效学习与多个基准测试相关的更好的表示。

    Jun, 2022

  • 对比自监督学习中的变换组合

    本文介绍了将对比学习扩展到更广泛的数据变换集合，并提出了一种满足所有对比公式要求的实用构造，其中所有噪声对比公式的组件都被表述为一定的广义数据变换选择（GDTs），通过对视频数据进行分析，得出了在学习有效视频表示时对某些变换具有不变性和对其他变换具有特征性的关键作用，这一结果大幅改善了多个学习基准，甚至超过了监督预训练。

    Mar, 2020

  • 理解对比学习需要融入归纳偏差

    本文指出只考虑增强方法和对比损失等因素不能充分解释对比学习的成功，需要考虑算法和函数类的归纳偏差，特别是对于线性表示，加入函数类的归纳偏差可以让对比学习在更宽松的条件下工作。

    Feb, 2022

  • 自监督表示学习的定位加速

    通过数据驱动的前景显著性估计和复制粘贴来生成图像视图，实现对背景不变性的学习，从而训练代表性忽略背景内容并专注于前景的对比学习模型，并实现了在 ImageNet 分类和 PASCAL VOC、MSCOCO 目标检测上的显著性能提升。

    Apr, 2020

  • 重新审视数据增强不变表示学习的关键因素

    研究关注增强不变表示学习的关键因素，比较 MoCo v2 和 BYOL 两种良好的增强表示方法，发现网络结构的不对称性可能会损害其在长尾分类任务上的传递性能，且负样本对于数据增强的选择并没有更好的鲁棒性。

    Jul, 2022