Feb, 2022

能量对比学习视觉表征

PDF
TL;DR探索了一种基于能量的对比学习方法，将对比学习与基于能量的模型相结合，可以用于学习小型和中型数据集中的视觉表示，其在 MNIST、Fashion-MNIST、CIFAR-10 和 CIFAR-100 等数据集上都表现出了很好的结果，并相对于其他方法有 X4 到 X20 倍的加速。
contrastive learningenergy-based contrastive learningdeep neural networksgenerative learningsmall and medium-scale datasets
发现论文，激发创造
  • 跨模态对比学习：多模态视频表征

    提出了一种新的对比损失方法 CrossCLR，能够实现跨模态嵌入学习中考虑嵌入空间中类内相似性，避免了同一内容被映射到多个点的问题，从而显著提高了视频与文本的检索和视频字幕生成的性能。该方法具有很好的普适性，可用于其他模态之间的联合嵌入学习。

    Sep, 2021

  • 解耦对比学习

    本文提出了解决自监督对比学习中的批处理大小等参数问题的一种简单有效的基准方法（DCL），并对其进行了在多种基准测试中的复现和实时检验，最终实现了较少受亚优化超参数影响且性能不错的对比学习方法。

    Oct, 2021

  • 通过对比学习的混合判别生成训练

    该论文通过能量基模型的混合判别 - 生成式训练，展现出对比学习和监督学习之间的直接联系，并且提出的能量基损失函数的逼近方法有着比现有方法更好的分类准确性、鲁棒性、分布检测和校准性能。

    Jul, 2020

  • 全局背景下的视频对比学习

    该研究提出了一种基于段落的视频级对比学习方法，它使用全局上下文形成正样本，同时还结合了一个时间顺序正则化项来确保视频的时序结构，实验证明该方法在动作分类、动作定位和视频检索等任务上能够超越现有的最先进方法。

    Aug, 2021

  • 视觉表示对比学习的简单框架

    SimCLR 是一种简单的对比学习框架，通过定义有效的预测任务、引入可学习的非线性变换以及使用大型批次和更多的训练步骤来提高对比学习的效果，在 ImageNet 数据集上实现了比以往方法更好的自监督和半监督学习结果。

    Feb, 2020

  • 无监督句子表示的去偏置对比学习

    该研究提出了一种名为 DCLR 的新框架，使用实例加权的方法惩罚误判造成的假负样本，并产生基于噪声的负样本，以确保表示空间的均匀性，提高自监督学习中的句子表示质量，并在七个语义文本相似性任务中实现了显著性能提升。

    May, 2022

  • 从朋友那儿获取帮助：最近邻对比学习视觉表示

    NNCLR 是一种基于最近邻对比学习的自监督学习算法，将数据集中最近邻作为正样本而不是图像的不同视角，能够提供比预定义的变换更多的语义变化，达到了在 ImageNet 分类和迁移学习基准测试中超越现有先进方法的效果。此外，该方法的鲁棒性能更好，对于数据变换的依赖性更小。

    Apr, 2021

  • EBMs vs. CL: 探究自监督视觉预训练在视觉问答中的应用

    该技术报告评估了通过自监督学习训练大规模视觉和语言模型的有效性，并比较了基于能量和对比学习的表示学习方法对视觉问答任务预训练的影响，发现对比学习目前是相对更可行的选择，能够提高其泛化能力。

    Jun, 2022

  • 从模型学习视觉：模型对抗学习视觉

    通过合成图像和合成标题无需真实数据地学习视觉表征，SynCLR 方法在对合成图像进行对比学习的基础上，将得到的表征在多个下游任务中转移，与其他通用视觉表征学习算法相比，在图像分类任务中表现出色；此外，在诸如语义分割等密集预测任务中，SynCLR 比以往自监督方法有显著优势。

    Dec, 2023

  • 通过对比潜变量引导基于能量的模型

    本文提出了一种基于对比学习的框架，通过引入对比潜变量来改进能量基模型的训练，设计一种新类的潜变量 EBMs 实现数据联合密度估计和对比潜变量的联合训练，实验结果表明该方案比现有的 EBM 方法（如变分自动编码器或扩散技术）具有更低的 FID 分数，训练速度更快、内存效率更高，并展示了该潜变量 EBMs 的条件和组合生成能力。

    Mar, 2023