本文提出了一种无需人工注释的点云视频结构预测方法（MaST-Pre），通过空间 - 时间点管掩蔽和自监督学习任务，捕捉了点云视频的外观信息和运动变化，有效地模拟了点云视频的空间和时间结构。大量实验证明了该方法的有效性。

Aug, 2023

本文介绍了一种基于几何特征重建的点云表示学习框架，其中包括三个点云专有的自监督学习目标，即质心预测、表面法线估计和曲率预测。该框架采用自监督学习方法，创造有意义的任务，相互促进模型更好地推理点云的精细几何结构。通过训练后，该模型在物体检测、分割和多目标跟踪等任务上均实现了显著的表现提升。

May, 2023

本文提出了一种用于 3D 动作识别的 Masked Motion Prediction（MAMP）框架，通过对蒙面的空间 - 时间骨骼序列进行预测，实现对丰富语义区域的更好关注，进而提高自监督预训练的性能。经过对 NTU-60、NTU-120 和 PKU-MMD 数据集的广泛实验，表明所提出的 MAMP 预训练方法显著提高了基础的 transformer 模型的性能，并取得了最先进的结果。MAMP 的源代码可以在给定的网址上找到。

Aug, 2023

本文提出了 MST 方法，它可以显式捕捉图像的局部上下文并保留全局语义信息，在密集预测任务上有更好的性能，在多个数据集上得到验证，并优于同等时期的监督方法和其可比的变体 DINO。

Jun, 2021

提出了一种名为 M$^{3}$3D 的新的预训练策略，该策略基于基于多模态遮蔽自编码器，可以利用三维先验和学习的跨模态表示，以增强颜色 - 深度数据之间的对应关系，并能在各种下游任务中提高性能。

Sep, 2023

提出了一种名为 Mask3D 的预训练方法，可以将现有的大规模 RGB-D 数据应用于自监督预训练中，将 3D 先验嵌入到 2D 的学习特征中，并对多个场景理解任务产生了改进，尤其是语义分割。

Feb, 2023

M^3CS 是一种掩码点云建模方案，通过引入 siamese 解码器和在线码书投影，它能够同时预测掩码表示和原始点，从而在自我监督预训练中获得低级和高级表示建模能力，并在分类和分割任务中显示出优越性能。

Sep, 2023

我们引入了一种自监督学习的创新方法，采用一种名为 GeoMask3D（GM3D）的几何信息驱动的蒙版选择策略，以提高蒙版自编码器（MAE）的效率。与传统的随机蒙版方法不同，我们的技术利用师生模型来专注于数据中的复杂区域，引导模型关注具有更高几何复杂性的区域。我们的方法还提供了一种基于特征级信息的完全到部分的特征级知识提取技术，以指导几何复杂性的预测。大量实验证实了我们方法在分类和少样本任务中相对于现有基准的卓越性能。

May, 2024

本文提出了一种通过掩蔽姿态建模实现统一的 2D-3D 人体姿态表示框架 MPM，该框架通过使用单流的基于 Transformer 的人类姿势表示和三个预训练任务，能够在一个单一框架中处理包括 3D 人体姿态估计、来自遮挡 2D 姿势的 3D 姿势估计和 3D 姿势完成。研究者在几个广泛使用的人体姿势数据集上进行了广泛的实验和消融研究，并在 Human3.6M 和 MPI-INF-3DHP 上实现了最先进的性能。

Jun, 2023

本研究通过使用基于自监督像素级特征构建的拉普拉斯矩阵的特征向量提高了形状感知的零样本语义分割准确性，实现了比现有成果更好的零样本语义分割表现。

Apr, 2023