Feb, 2023

CIPER: 使用对比学习和预测学习结合不变和等变表示

PDF
TL;DR本研究通过 Contrastive Invariant and Predictive Equivariant Representation learning (CIPER) 方法，利用共享编码器和两个不同的输出头，旨在同时通过不变性和等变性目标学习表示。CIPER 在静态图像任务和时间增强图像数据集上都表现出较好的性能，特别是当下游任务需要编码与数据增强相关的信息时。
self-supervised representation learningaugmentation-based contrastive learninginvariant featuresequivariant featuresciper
发现论文，激发创造
  • 通过等变表示的对比学习

    提出了一种新的基于等变性的对比学习（ECL）框架 CLeVER，兼容各种主流对比学习方法和模型框架的任意复杂的增强策略，并通过从数据中提取和整合等变信息，提高了基线模型在后续任务中的训练效率和鲁棒性。

    Jun, 2024

  • 等变对比学习

    本文介绍了一种新的自我监督学习框架 E-SSL，它扩展了现有自我监督方法，并提出了一种新的目标函数以实现对输入的等变性要求，旨在提高表示的语义质量。该方法在多个计算机视觉基准数据集上进行验证，并在光子学领域的回归问题中展示了其实用性。

    Oct, 2021

  • 胶囊网络投影器是等变和不变学习器

    通过使用 Capsule Networks (CapsNets) 构建不变 - 等变自监督架构，提出了 CapsIE (Capsule Invariant Equivariant Network) 的目标函数，以提高等变任务的下游性能，具有更高的效率和更少的网络参数。在 3DIEBench 数据集上，CapsNets 能学习出复杂且普遍化的表示，相比之前的 CapsNet 基准数据，达到最先进的性能，超越了监督模型的性能表现。

    May, 2024

  • 自监督学习分离不变等变表示

    本文介绍了一种基于超网络的预测器，结合了不变和等变的表示形式，以学习更丰富的表示，进而在等变性相关任务中获得显著的性能提升。同时，本文还介绍了一个名为 3DIEBench 的数据集，其中包含来自 55 个类别的 3D 模型渲染超过 250 万幅图像，提供了完全可控的对象变换。研究者希望这两个工具能够在更复杂的场景中实现更好的无监督学习效果。

    Feb, 2023

  • 旋转等变对比学习结构化表示几何

    本文提出了一种自我监督的学习方法，通过向嵌入空间添加额外的几何结构以获得更有意义的数据差异性表示，并引入等变目标使旋转操作在球面嵌入空间上的表现更佳，从而取得了更好的性能表现。

    Jun, 2023

  • 对比学习中不应该进行对比的内容

    本文提出了一种对比学习方法，该方法不需要先前知道特定于任务的不变性，使用多头网络构建不同的嵌入空间来捕捉可变及不变的因素 以提高视觉表示的效果，并发现不变空间和变化空间的连接在包括数据破坏等各种下游分类任务中表现最佳。

    Aug, 2020

  • 提高对比表示学习中的变换不变性

    本文主要介绍了强化对比学习得到的表示的不变性的方法，通过引入新的正则化器、特征平均法和可微分生成过程，对旋转等变性进行限制和控制，提高了表示在后续任务中的表现和鲁棒性。

    Oct, 2020

  • 揭开对比自监督学习的神秘面纱：不变量，数据增强和数据集偏差

    通过量化实验，我们发现了自监督学习方法的增益来源及其局限性，并且提出了一种利用非结构化视频学习表示以实现更高视点不变性的方法。

    Jul, 2020

  • 探索不变与等变表征在少样本学习中的互补优势

    本论文提出了一种新的训练机制，同时注重等变性和不变性，使得模型能够充分学习具有独立性的特征以及几何变换的结构，进而能够在具有少量数据的情况下很好地推广。通过引入自我监督的蒸馏目标，本文的方法即使不使用知识蒸馏，在五个流行数据集上的表现也能超过目前最先进的 few-shot learning 方法。

    Mar, 2021

  • LiDAR 目标检测的等变时空自监督

    基于空间和时间增强的等变学习框架，通过鼓励平移、缩放、翻转、旋转和场景流的等变性，提高了三维物体检测的性能。

    Apr, 2024