介绍了基于自监督学习的点级区域对比法，该方法用于目标检测预训练，提高了模型在像素或点级别的定位和物体区域整体性识别的表现，通过直接从不同区域中采样个体点对执行对比学习，增强了模型对输入区域质量变化的鲁棒性，同时通过在线知识蒸馏隐式地提高了初始区域分配的质量。在多个任务和数据集上的实验表明，这种方法提高了目标检测和分割的预训练方法的性能。

Feb, 2022

基于自主车辆的关键挑战是准确检测环境中的物体。我们引入 PatchContrast，这是一个创新的自我监督点云预训练框架，用于 3D 物体检测。通过提出两个抽象层次的利用，我们学习未标记数据的判别性表示：提案级别和补丁级别。提案级别旨在确定物体相对于周围环境的位置，而补丁级别增加了关于物体组件之间内部连接的信息，从而根据它们的独立组件区分不同的对象。我们展示了如何将这些级别集成到自我监督预训练中以增强下游的 3D 检测任务，并证明我们的方法在三个常用的 3D 检测数据集上优于现有的最先进模型。

Aug, 2023

本研究旨在促进 3D 深度学习表示学习的研究，重点关注高级场景理解任务，使用统一的三元组架构、源数据集和对比损失进行无监督预训练，对室内和室外、真实和合成数据集的 6 个不同基准进行分割和检测，取得了鼓舞性的结果，表明学习到的表示可以在不同领域推广使用，并且与监督的预训练的改善程度相似，建议未来的努力应该更加注重扩充数据收集而非详细标注。

Jul, 2020

使用预训练的深度神经网络在少量可用数据中实现强大结果，针对密集问题如物体检测，学习图像中的局部信息而非全局信息被证明更有效。为了解决这个问题，我们对最近在社区中表现良好且具有生成多样化目标提案特性的基于 Transformer 的物体检测器感兴趣，在此工作中，我们提出了一种利用该特性的新型无监督整体预训练方法 ProSeCo，使用检测器生成的大量目标提案进行对比学习，从而允许使用较小的批量大小，并结合物体级特征学习图像中的局部信息。为了改善对比损失的有效性，在选择正样本时引入物体位置信息以考虑多个重叠的目标提案。当重用预训练的骨干网络时，我们主张在骨干网络和检测头之间一致学习局部信息。我们证明了我们的方法在使用较少数据进行物体检测的无监督预训练中优于现有方法，在标准和新颖的基准测试中表现出色。

Oct, 2023

本文提出了一种 3D 视觉语言预训练框架 3DVLP，可以在 3D 视觉语言下游任务中有很好的表现，该框架考虑了场景中物体的关联性，提出了多个任务来实现对象级交叉对齐和区分，与任务特定方法相比具有更好的泛化性能。

May, 2023

我们提出了一个统一的点云视频自监督学习框架，用于面向对象和面向场景的数据。通过在点级别进行对比学习，我们的方法能够捕捉到细粒度语义。同时，我们引入了一个新的预训练任务，通过实现超点的语义对齐来进一步提高表示能力。此外，为了解决动态点云时间维度的高冗余性问题，我们提出了一种选择策略来保留适当的负样本，并利用其他实例中的高相似样本作为正样本的补充。大量实验证明我们的方法在各种下游任务上优于有监督对应方法，并展示了学到的表示的卓越可迁移性。

Aug, 2023

本文提出了一种名为 ConClu 的通用无监督方法，它通过联合使用点级聚类和实例级对比来实现点和全局特征的学习。实验评估结果表明，该框架在 3D 物体分类和语义分割等下游应用方面具有很好的性能，可以胜过现有技术。

Feb, 2022

本文介绍了一种半监督点云语义分割方法，使用伪标签指导其损失函数，并提出了一种基于对比损失的方法来增强特征表示和模型的泛化能力。实验证明，该方法在三个数据集上都可以有效地提高预测质量。

Oct, 2021

本研究提出了一种名为 CrossPoint 的简单跨模态对比学习方法，通过自监督学习，在不需要人类标注的情况下，实现可转移的三维点云表示，通过最大化点云和相应渲染的二维图像之间的协议，实现了三维物体分类和分割等多项任务，并验证了我们的方法在提高点云理解方面的效果。

Mar, 2022

该研究提出了一个名为 SimIPU 的简单而有效的 2D 图像和 3D 点云无监督预训练策略，利用点云提供空间信息，通过对比学习框架来生成空间感知的图像表示。这是第一次探索对配对的相机图像和 LIDAR 点云进行对比学习预训练策略。

Dec, 2021