ICCVAug, 2021

自监督视频表示学习与元对比网络

PDF
TL;DR本文提出了一种结合对比度学习和元学习的元对比网络（MCN）方法，以增强现有自我学习方法的学习能力，并且在视频动作识别和视频检索等两个下游任务中，比当前最先进的方法在 UCF101 和 HMDB51 数据集上均有较好表现。
self-supervised learningmeta-contrastive networkvideo action recognitionvideo retrievalmulti-task process
发现论文，激发创造
  • 利用运动对比感知进行自监督视频表征学习

    本文提出了基于长程残差帧和运动对比知觉网络的视频表示学习方法，旨在通过自监督学习获得更多的运动特定信息，并通过对比学习提高模型的语义表达性能，实验结果表明该方法对于 UCF-101 和 HMDB-51 数据集具有较高的性能表现。

    Apr, 2022

  • 自监督预训练和对比表征学习在多项选择视频 QA 中的应用

    本文介绍了一种新的多项选择视频问题回答（Video QA）的训练方案，其中包括自监督预训练阶段和监督对比学习的辅助学习。在自监督预训练阶段中，我们将原始问题格式进行了转化，以预测相关问题并提供模型更广泛的背景输入。然后，我们在对比学习的主阶段中添加了屏蔽噪声，并通过将正样本映射到受掩输入来改进模型表现。最后，我们采用了本地对齐注意力来更有效地关注相关字幕句子的视频帧。我们的实验结果表明，我们的模型在相关测试集上均取得了最先进的性能，并通过进一步的分析验证了我们的方法。

    Sep, 2020

  • 示范对比学习

    该论文提出了一个从多个视角捕捉的无标注视频演示中学习视觉表示的框架，优化了最近提出的自监督学习算法，应用对比学习来增强与任务相关的信息和抑制特征嵌入中的无关信息，验证了所提出的方法在模拟几种机器人任务，包括 pick and place 任务中的应用，评估了学习表示的三个指标：视点对齐，阶段分类和强化学习，在所有情况下，结果都表明与现有方法相比，该方法水平更高，而且训练轮数更少。

    Jan, 2022

  • CoCon: 合作 - 对比学习

    我们提出了一种协作版对比学习方法，利用数据驱动的采样来利用多个输入视频视图之间的隐式关系，以应对该问题，并在动作识别这一下游任务上取得了竞争性能表现。

    Apr, 2021

  • 自监督共同训练用于视频表示学习

    本文提出以自监督为主的视频特征学习方法，其中利用语义正例和共同训练提高了训练效果，同时也获得了在动作识别等任务上与其他自监督方式相当的性能。

    Oct, 2020

  • 视频理解作为机器翻译

    本文介绍了在大规模多模式视频数据集上的自我监督学习的发展；提出了一种基于生成模型的方法，以翻译问题的形式解决了这一问题，并将其应用于多种下游视频理解任务中。结果表明，本方法在性能上优于基于对比度度量学习的方法。

    Jun, 2020

  • 全局背景下的视频对比学习

    该研究提出了一种基于段落的视频级对比学习方法，它使用全局上下文形成正样本，同时还结合了一个时间顺序正则化项来确保视频的时序结构，实验证明该方法在动作分类、动作定位和视频检索等任务上能够超越现有的最先进方法。

    Aug, 2021

  • CrossVideo: 点云视频理解的自监督跨模态对比学习

    本文介绍了一种名为 CrossVideo 的新方法，旨在增强点云视频理解领域的自监督跨模态对比学习。通过利用点云视频和图像视频之间的跨模态关系获取有意义的特征表示，我们提出了一种自监督学习方法来解决数据稀缺和标签获取困难的问题。通过使用单模态和跨模态对比学习技术，我们实现了对点云视频的有效理解，并提出了一种适用于两种模态的多层对比方法。通过广泛的实验证明，我们的方法明显超过了先前的最先进方法，并进行了全面的消融研究来验证我们提出的设计的有效性。

    Jan, 2024

  • 对比学习的少样本分类

    本文提出了一种新的对比学习框架，将其无缝地整合到预训练阶段和元训练阶段，以提高少样本分类的性能，并使用交叉视图的情节训练机制进行最近的质心分类，并采用基于距离缩放的对比损失。

    Sep, 2022

  • 使用元学习超网络将受监督的深度学习 MRI 重建推广到多个未知对比度

    该研究旨在开发一种多模态元学习模型，结合演化能力和梯度基元学习（GBML）来重新校准基础网络的内核，以生成 mode-specific 权重，进而提高影像重建的表现。

    Jul, 2023