Jun, 2023

旋转等变对比学习结构化表示几何

PDF
TL;DR本文提出了一种自我监督的学习方法，通过向嵌入空间添加额外的几何结构以获得更有意义的数据差异性表示，并引入等变目标使旋转操作在球面嵌入空间上的表现更佳，从而取得了更好的性能表现。
发现论文，激发创造
  • 通过等变表示的对比学习

    提出了一种新的基于等变性的对比学习（ECL）框架 CLeVER，兼容各种主流对比学习方法和模型框架的任意复杂的增强策略，并通过从数据中提取和整合等变信息，提高了基线模型在后续任务中的训练效率和鲁棒性。

    Jun, 2024

  • 物体标志表示的等变和不变学习

    该论文提出了一种将基于实例和空间差异的对比学习相结合的简单而有效的方法，在训练的中间层次中表示对象明显地预测对象地标，通过空间对比学习进一步提高匹配和少量样本标志物回归任务的性能。该方法优于现有同类方法，并在标志物学习的标准基准测试以及该论文提出的新挑战上得到了验证。

    Jun, 2020

  • 等变对比学习

    本文介绍了一种新的自我监督学习框架 E-SSL，它扩展了现有自我监督方法，并提出了一种新的目标函数以实现对输入的等变性要求，旨在提高表示的语义质量。该方法在多个计算机视觉基准数据集上进行验证，并在光子学领域的回归问题中展示了其实用性。

    Oct, 2021

  • 提高对比表示学习中的变换不变性

    本文主要介绍了强化对比学习得到的表示的不变性的方法，通过引入新的正则化器、特征平均法和可微分生成过程，对旋转等变性进行限制和控制，提高了表示在后续任务中的表现和鲁棒性。

    Oct, 2020

  • 时间等变对比视频表示学习

    介绍了一种新的自监督对比学习方法，旨在从未标记的视频中学习表示。该方法利用新的约束条件，以建立对时间变换等价的表示，并更好地捕捉视频动态。实验表明，时间等变表示在 UCF101，HMDB51 和 Diving48 的视频检索和动作识别基准测试中实现了最先进的结果。

    Dec, 2021

  • LiDAR 目标检测的等变时空自监督

    基于空间和时间增强的等变学习框架，通过鼓励平移、缩放、翻转、旋转和场景流的等变性，提高了三维物体检测的性能。

    Apr, 2024

  • CIPER: 使用对比学习和预测学习结合不变和等变表示

    本研究通过 Contrastive Invariant and Predictive Equivariant Representation learning (CIPER) 方法，利用共享编码器和两个不同的输出头，旨在同时通过不变性和等变性目标学习表示。CIPER 在静态图像任务和时间增强图像数据集上都表现出较好的性能，特别是当下游任务需要编码与数据增强相关的信息时。

    Feb, 2023

  • 学习旋转等变特征实现视觉对应

    本实验引入自监督学习框架，使用群等变 CNN 提取旋转不变的局部特征，通过群对齐技术实现旋转不变性，并通过对比描述符损失和方向对齐损失训练来得到具有鲁棒性的局部特征描述符，表现出在不同环境下的高精度匹配结果，并在关键点匹配和相机姿态估计任务中显示出有竞争力的结果。

    Mar, 2023

  • 无监督学习有效的等变三维描述符

    本文介绍了一种使用深度学习模式进行三维形状描述子学习的方法，在未定向输入数据的情况下创建坚固有力的旋转等变表示，并在测试时定义一个良好的规范方向。

    Sep, 2019

  • 自监督对比学习的几何理解

    本文研究了自监督学习中编码器和映射器的关系，发现数据增强策略的增加会导致映射器变得更加不变，从而学习将数据投影到低维空间中，具有理论和实验结果的几何学解释。

    May, 2022