ICLROct, 2021

等变对比学习

PDF
TL;DR本文介绍了一种新的自我监督学习框架 E-SSL，它扩展了现有自我监督方法，并提出了一种新的目标函数以实现对输入的等变性要求，旨在提高表示的语义质量。该方法在多个计算机视觉基准数据集上进行验证，并在光子学领域的回归问题中展示了其实用性。
self-supervised learningequivariancepre-trainingcomputer visionregression
发现论文，激发创造
  • 上下文对称性：通过上下文世界模型进行自监督学习

    通过关注上下文，我们提出了一种能够对不同变换具有适应性的通用表示学习算法，该算法通过学习等变性而不是不变性，使模型能够在给定少量示例作为上下文时，将所有相关特征编码为通用表示，并在等变性相关任务上展现出明显的性能提升。

    May, 2024

  • 自监督对比学习的几何理解

    本文研究了自监督学习中编码器和映射器的关系，发现数据增强策略的增加会导致映射器变得更加不变，从而学习将数据投影到低维空间中，具有理论和实验结果的几何学解释。

    May, 2022

  • 自监督学习的逆向工程

    本文深入分析了自监督学习的机制以及其对表示学习的影响，揭示了自监督学习在样本聚类方面的潜在驱动作用，同时证实了该方法所训练的表示与语义类别之间存在着密切的对齐关系，并且这种对齐关系随着训练和网络深度的加深而不断增强，这对于提高自监督学习方法的性能和效果具有重要的理论和实际意义。

    May, 2023

  • SSL 交互作用：扩充、归纳偏差，与泛化

    本文对自我监督学习的理论与实践中被忽视的问题进行了分析，阐述了数据增强、网络结构和训练算法对于预训练和下游任务泛化性能的影响，并为自我监督学习的从业者指出了一些有价值的见解。

    Feb, 2023

  • 旋转等变对比学习结构化表示几何

    本文提出了一种自我监督的学习方法，通过向嵌入空间添加额外的几何结构以获得更有意义的数据差异性表示，并引入等变目标使旋转操作在球面嵌入空间上的表现更佳，从而取得了更好的性能表现。

    Jun, 2023

  • 自监督学习对数据集失衡更具鲁棒性

    本文通过广泛的实验和理论分析，系统研究了在数据集不平衡的情况下自监督学习的表现，并通过半合成实验验证了 SSL 学习了与标签无关但可转移的特征，进而提出了一种新的加权正则化技术，显著提高了 SSL 表示的质量。

    Oct, 2021

  • 数据有效对比自监督学习：简单样本对学习最有帮助

    该研究发现对于对比自监督 (SLL) 来说，那些与其他示例具有最相似增强的样例在学习表示方面贡献最大。此外，研究还表明，对正在进行的任务性能不会产生负面影响的情况下，可以安全地排除 CIFA100 和 STL10 分别的 20% 和 40% 示例。

    Feb, 2023

  • 自监督学习分离不变等变表示

    本文介绍了一种基于超网络的预测器，结合了不变和等变的表示形式，以学习更丰富的表示，进而在等变性相关任务中获得显著的性能提升。同时，本文还介绍了一个名为 3DIEBench 的数据集，其中包含来自 55 个类别的 3D 模型渲染超过 250 万幅图像，提供了完全可控的对象变换。研究者希望这两个工具能够在更复杂的场景中实现更好的无监督学习效果。

    Feb, 2023

  • 注视估计的对比表示学习

    本文提出了一个基于对比学习方法的简单的凝视估计学习框架 ——GazeCLR， 其中利用多视图数据促进等价变换，并使用选定的数据增强技术进行不变性学习。实验结果表明，GazeCLR 在多个凝视估计任务和 few-shot 评估上都取得了显著的效果，并与最先进的表示学习方法相当。

    Oct, 2022

  • CIPER: 使用对比学习和预测学习结合不变和等变表示

    本研究通过 Contrastive Invariant and Predictive Equivariant Representation learning (CIPER) 方法，利用共享编码器和两个不同的输出头，旨在同时通过不变性和等变性目标学习表示。CIPER 在静态图像任务和时间增强图像数据集上都表现出较好的性能，特别是当下游任务需要编码与数据增强相关的信息时。

    Feb, 2023