本文提出了一种自我监督学习框架，使用 Rubik's cube recovery 为代理任务来预训练 3D 神经网络，以便从原始 3D 数据中学习平移和旋转不变特性，与从头开始训练相比，用预训练网络微调能够更好地提高 3D 深度学习网络在不使用额外数据的情况下对体积医疗数据集的准确性，这是第一篇关注 3D 神经网络的自我监督学习的工作。

Oct, 2019

通过在训练过程中直接强制将强大的三维结构先验性知识融入模型，我们提出了一种新的方法来加强现有的自监督学习方法，并通过一系列数据集实验证明了我们的三维感知表示比传统的自监督基线更加稳健。

Jun, 2024

本文提出了一种用于医学数据的自监督深度学习的框架，该框架可以联合学习 2D 和 3D 数据，通过用变形注意力机制构建整体特征，并利用预训练语言模型进行掩蔽嵌入预测，提高了 2D Deep-ClusterV2 和 SwAV 的效果，并超越了各种现代 2D 和 3D 自监督学习方法。

Dec, 2022

本研究提出了一种基于自监督学习的 3D 医学成像的新型框架，即 Rubik's cube ++，通过对 3D 体数据进行体积化转换来更好地利用器官的内在三维解剖信息，可以预先训练 3D 神经网络，在胰腺分割和脑组织分割等各种任务中表现出更好的性能。

Jul, 2020

最近，自监督学习方法已被用于对二维和三维医学图像的分割模型进行预训练。本文提出了一种新的自监督对齐学习框架来预训练医学图像分割的神经网络，其中包括了一个全新的局部对齐损失和全局位置损失。实验结果表明，该对齐学习方法在有限标注的 CT 和 MRI 数据集上与现有的自监督预训练方法具有竞争力。

Jun, 2024

我们提出了一种使用两个不同子网络来探索和利用它们之间差异的方法，最终纠正错误的预测结果，通过有针对性的验证训练过程识别不一致预测的区域并进行微调，从而提高上下文信息的利用；此外，为了自适应地调整网络的表示能力并降低预测不确定性，我们采用了自监督对比学习范式，利用网络的置信度区分可靠和不可靠的预测，并训练模型有效地最小化不可靠的预测；我们的实验结果来自于临床 MRI 和 CT 扫描的器官分割，与最先进的方法相比，证明了我们方法的有效性。

Nov, 2023

提出了一种基于伪 3D 转换的跨维度自监督学习框架（CDSSL-P3D），该框架可以利用 2D 和 3D 数据进行联合预训练，实现 3D 医学图像分析的跨维度自监督学习。在 13 个下游任务上进行了广泛的实验，结果表明我们的 CDSSL-P3D 表现出色，优于其他先进的自监督学习方法。

Jun, 2024

本研究为培训深度学习算法所需数据量的问题提出了一种解决方案，通过建立医学图像分割数据集和使用 Med3D 进行多域协同训练，可以加速涉及 3D 医学图像的任务的训练收敛速度和提高准确度。

Apr, 2019

T3D 是为高分辨率 3D 医学图像设计的首个 VLP 框架，通过两个文本感知的预训练任务，即文本感知的对比学习和文本感知的图像恢复，从高分辨率的 3D 医学图像中学习 3D 视觉表示，整合临床知识，拥有在器官和肿瘤分割以及疾病分类等任务中显著优于现有 vSSL 方法的潜力。

Dec, 2023

本文提出一种基于自监督预训练的医学图像分析深度学习训练策略，通过将不同扭曲应用于图像的随机区域，预测扭曲的类型和信息的损失，并使用改进的 Mask-RCNN 体系结构定位扭曲位置和恢复原始图像像素，将该方法用于分割任务，能够提高 Dice 分数 20%。

Jul, 2022