ICCVMar, 2020

对比自监督学习中的变换组合

PDF
TL;DR本文介绍了将对比学习扩展到更广泛的数据变换集合，并提出了一种满足所有对比公式要求的实用构造，其中所有噪声对比公式的组件都被表述为一定的广义数据变换选择（GDTs），通过对视频数据进行分析，得出了在学习有效视频表示时对某些变换具有不变性和对其他变换具有特征性的关键作用，这一结果大幅改善了多个学习基准，甚至超过了监督预训练。
contrastive learninginvariancedistinctivenessdata transformationsvideo representations
发现论文，激发创造
  • 提高对比表示学习中的变换不变性

    本文主要介绍了强化对比学习得到的表示的不变性的方法，通过引入新的正则化器、特征平均法和可微分生成过程，对旋转等变性进行限制和控制，提高了表示在后续任务中的表现和鲁棒性。

    Oct, 2020

  • 对比学习中不应该进行对比的内容

    本文提出了一种对比学习方法，该方法不需要先前知道特定于任务的不变性，使用多头网络构建不同的嵌入空间来捕捉可变及不变的因素 以提高视觉表示的效果，并发现不变空间和变化空间的连接在包括数据破坏等各种下游分类任务中表现最佳。

    Aug, 2020

  • 对比自监督学习中的文本转换方法综述

    本综述论文探讨了如何在自监督学习中使用对比学习方法来改善文本表示学习，并介绍了现有方法的优缺点和局限性。

    Mar, 2022

  • 建设性同化：通过视角生成策略提升对比学习性能

    本文提出了一种视图生成方法和简单有效的融合方法，将生成视图与人工设计的专家变换结合起来，并对比对比表示学习中学习视图的有效性进行了详细的实证研究。在三个不同的数据集上，该方法使最先进技术性能提高了约 3.6%。

    Apr, 2023

  • 无监督图像对图像翻译的对比学习

    本文提出了一种无监督、基于对比学习的图像翻译方法，其主要思想是学习一个判别器，将不同的图像风格区分开来，并使其监督生成器将这些风格在图像之间进行转移。实验结果表明，该方法在视觉质量和翻译准确度方面优于当前领先的无监督基线模型。

    May, 2021

  • 对比学习反转数据生成过程

    使用 InfoNCE 系列的 feedforward 模型通过隐式反转观察数据的基础生成模型来实现使学习到的表示方法适用于大量下游任务的目标，这种理论强调了对比学习，生成建模和非线性独立成分分析之间的基本联系，为推导出更有效的对比损失提供了理论基础。

    Feb, 2021

  • 从合成音频 Doppelgangers 进行对比学习

    通过使用合成音频生成具有因果关系的音色、音高和时间包络变化的混合音频，我们提出了一种轻量级的方法来学习健壮的音频表示，该方法可以减轻从真实世界音频中获取大规模数据的负担，并在标准音频分类基准上取得强大的表现。

    Jun, 2024

  • 自监督对应学习的对比转换

    本研究旨在通过使用野外未标记视频进行自监督学习的视觉对应关系。我们的方法同时考虑了可靠对应估计的视频内部和视频间的表示关联。

    Dec, 2020

  • 面向领域无关性对比学习

    该研究提出了一种新颖的领域无关对比学习方法 DACl，利用 Mixup 噪声在输入或隐藏状态级别上不同地混合数据样本来创建相似和不相似的示例，并在各种领域进行实验，结果表明 DACl 不仅优于其他领域无关的噪声方法，而且与 SimCLR 等领域特定方法结合，可以提高自监督视觉表示学习。

    Nov, 2020

  • 对比自监督的折旧不变性学习

    本文提出了一种基于自监督学习的泛化表征学习方法，利用不同 iable invariance hyper-parameters 控制表示中编码的不变性，并且通过梯度下降学习线性 readout 和任务特定的不变性要求，无需特定任务的预训练，从而实现了单一表征学习在多种任务中的多样化应用。

    Feb, 2023