Apr, 2023

建设性同化：通过视角生成策略提升对比学习性能

PDF
TL;DR本文提出了一种视图生成方法和简单有效的融合方法，将生成视图与人工设计的专家变换结合起来，并对比对比表示学习中学习视图的有效性进行了详细的实证研究。在三个不同的数据集上，该方法使最先进技术性能提高了约 3.6%。
contrastive learningexpert transformationsview generationassimilationimage data
发现论文，激发创造
  • 针对下游目标检测的对比视角设计策略以提高对领域转移的稳健性

    为了增强对外域物体的检测鲁棒性，我们对对比学习进行了实证研究，并提出了加强鲁棒性的策略，包括改变裁剪百分比、添加 IoU 约束、整合显著性的对象先验，并探索了缩短路径的数据增强方法。在多个领域的基础上进行基准测试，整合多种策略，实验结果表明了如何通过选择视图提高对比学习的鲁棒性。

    Dec, 2022

  • 对比自监督学习中的变换组合

    本文介绍了将对比学习扩展到更广泛的数据变换集合，并提出了一种满足所有对比公式要求的实用构造，其中所有噪声对比公式的组件都被表述为一定的广义数据变换选择（GDTs），通过对视频数据进行分析，得出了在学习有效视频表示时对某些变换具有不变性和对其他变换具有特征性的关键作用，这一结果大幅改善了多个学习基准，甚至超过了监督预训练。

    Mar, 2020

  • CoViews：利用合作视图进行自适应增强对比学习

    本文提出了一种学习高效自适应数据增强策略的对比学习框架，通过在训练过程中持续生成新的数据增强策略，无需任何监督，有效生成高质量的正负对，进而提升对比学习性能。实验证明，使用视图相关的增强策略训练优于使用所有视图共享的独立策略，在多个数据集和对比学习框架上验证了方法的一致优越性。

    May, 2024

  • 对事实对比学习的鲁棒表达：通过因果图像合成

    利用计数事实图像生成的最新进展，我们提出了 CF-SimCLR，一种反事实对比学习方法，利用近似的反事实推理用于正样本对的创建，在胸部放射学和乳房 X 线检查的五个数据集上进行综合评估，证明 CF-SimCLR 可以显著提高对获得偏移的稳健性，在内部和外部分布的数据上都能获得更高的下游性能，特别是对于在训练过程中少见的领域。

    Mar, 2024

  • 构建更好的对比视图，用于孪生神经网络表示学习

    提出了 ContrastiveCrop，一种用于 Siamese 表示学习的更好对比对的生成方法，该方法采用全无监督方式提出了基于语义的目标定位策略并进一步设计了中心抑制采样来扩大裁剪区域的方差，成功提高了自我监督学习中 SimCLR，MoCo，BYOL，SimSiam 等方法的分类准确率，同时在基于 ImageNet-1K 预训练的下游检测和分割任务上取得了优异的结果。

    Feb, 2022

  • GenView: 使用预训练生成模型提升自监督学习的视图质量

    自监督学习通过从无标签数据中获取高质量的表示已经取得了显著的成功。GenView 是一个可控的框架，通过增加积极视角的多样性利用预训练生成模型的能力，同时保留语义。研究中引入了自适应视角生成方法来调整采样噪声水平，以确保保留基本语义意义并引入变异性。此外，引入了质量驱动的对比损失，通过考虑前景相似性和背景多样性评估正样本对的质量。GenView 明显改善了各种任务中的自监督学习性能，例如，在 ImageNet 线性 / 半监督分类上，GenView 将 MoCov2 的性能提高了 2.5％/2.2％。此外，与简单地使用 Laion400M 或 ImageNet21K 扩充 ImageNet 数据集相比，GenView 的性能更好。

    Mar, 2024

  • 使用 Viewmaker 网络进行多光谱自监督学习

    本篇论文探讨了如何运用对比学习的方法，使用 Viewmaker 网络产生视角从而处理多种遥感数据集，同时发现该方法在每个多光谱成像问题上表现优于基于裁剪和反射的方法，结果表明领域无关的方法可以扩展应用到实际的科学领域。

    Feb, 2023

  • 自监督表示学习的定位加速

    通过数据驱动的前景显著性估计和复制粘贴来生成图像视图，实现对背景不变性的学习，从而训练代表性忽略背景内容并专注于前景的对比学习模型，并实现了在 ImageNet 分类和 PASCAL VOC、MSCOCO 目标检测上的显著性能提升。

    Apr, 2020

  • 使用更强数据增强进行对比学习

    该研究提出了一种名为 Contrastive Learning with Stronger Augmentations（CLSA）的新的对比学习方法，利用数据扩增引入样本多样性，从而提高检索能力，实验结果表明该方法在 ImageNet 数据集上的表现接近有监督结果。

    Apr, 2021

  • 深度生成视图集成

    使用预训练生成器，通过对潜在代码进行扰动以创建自然图像的变化，然后使用 StyleGAN2 进行分类任务，并发现该过程存在多个设计决策，包括扰动程序、增强图像和原始图像之间的加权以及对合成图像进行训练的分类器等，最终发现，虽然使用基于 GAN 的增强可以带来小幅改进，但 GAN 重构的效率和精度，以及分类器对 GAN 生成图像的敏感性仍然是瓶颈。

    Apr, 2021