本研究旨在促进 3D 深度学习表示学习的研究，重点关注高级场景理解任务，使用统一的三元组架构、源数据集和对比损失进行无监督预训练，对室内和室外、真实和合成数据集的 6 个不同基准进行分割和检测，取得了鼓舞性的结果，表明学习到的表示可以在不同领域推广使用，并且与监督的预训练的改善程度相似，建议未来的努力应该更加注重扩充数据收集而非详细标注。

Jul, 2020

本研究综述了使用深度神经网络实现无监督点云表示学习的方法，解决在人工标注数据量有限的问题。研究挖掘了常用数据集和评估指标，提出了基于这些技术的自监督点云表示学习方法的广泛应用，并指出未来可能面临的挑战和潜在问题。

May, 2023

该研究提出了一种可用于 3D 数据的简单自监督预训练方法，在目标检测、语义分割和物体分类等方面取得了最先进的结果并提高了少样本类别的性能。

Jan, 2021

由于视觉自主驾驶应用需要同时处理语义、3D 几何和时间信息以进行联合感知、预测和规划，因此我们提出了一种名为 “ViDAR” 的预训练模型，用于预训练下游视觉编码器，并通过新颖的隐变换操作将历史嵌入式表示转换为 3D 几何空间，以实现未来点云的预测。实验结果表明，在下游任务中取得了显著的增益，如在 3D 检测上的 NDS 提高了 3.1％，运动预测的错误率减少了约 10％，规划中碰撞率减少了约 15％。

Dec, 2023

通过多视图渲染三维数据，运用局部和全局两个层次的自监督方式进行神经网络的预训练来取得了优于 PointNet，DGCNN 和 SR-UNet 等现有方法的效果，并分析了合成和真实数据的优缺点。

Oct, 2022

本论文提出一种基于自监督学习的点云深度感知模型预训练方法，通过表面重建预训练任务和基于潜在向量的感知头来抓取表面信息的语义片段并提高对象检测和场景语义分割性能。

Dec, 2022

提出了一种自我监督学习方法，利用点云数据来预训练深度神经网络用于对象分类和语义分割，从而在减少监督样本数量方面提高样本效率。该方法不需要特定的网络体系结构，并且在下游的对象分类任务中优于当前无监督学习方法。

Jan, 2019

该论文提出了两种新型的自监督预训练方法，利用覆盖树对点云进行分层划分，从而避免手动注释点云所导致的困难；并针对少样本学习设置，让学习网络对支持集的点云嵌入进行预训练。实验表明，利用该自监督学习方法预训练的有监督方法显著提高了目前最先进方法的准确性，并且该方法在下游的分类任务中也优于先前的无监督方法。

Sep, 2020

本文提出了一个从电脑游戏中快速生成带有准确点级别标签的点云的框架，可用于深度学习算法的训练和神经网络的鲁棒性测试并提出了自动标定方法，实验表明将生成的合成数据与训练数据集相结合可显著提高点云分割的准确性 (+9%)，通过从用户配置场景的点云进行神经网络的测试和重新训练，可以修复神经网络的弱点 / 盲点。

Mar, 2018

点提示训练（PPT）是一种新颖的多数据集协同学习框架，用于在 3D 表示学习的背景下支持多个预训练范式。PPT 能够克服协同学习中的负面迁移问题，并且使用单个权重共享模型进行监督多数据集训练时，在每个数据集上都达到了最先进的性能。此外，作为一个预训练框架，PPT 在表示质量方面优于其他预训练方法，并在涵盖室内和室外 3D 场景的十多个不同下游任务中取得了非凡的最新性能。

Aug, 2023