本文提出了一种用于医学图像处理的自监督学习方法，该方法可以从多通道超声视频和相应的言语音频数据中学习有意义的图像特征，评价结果表明该方法可以用于标准平面检测和视线预测等向下流任务。

Aug, 2020

本文提出了一种基于音频和视觉的聚类方法，可以实现对视频数据集的无监督标记。经过广泛的分析，结果聚类与人工标签有很高的语义重叠性。同时，该方法也为 Kinetics，Kinetics-Sound，VGG-Sound 和 AVE 等常见视频数据集的无监督标记带来了首批基准结果。

Jun, 2020

本文提出一种基于自监督预训练的医学图像分析深度学习训练策略，通过将不同扭曲应用于图像的随机区域，预测扭曲的类型和信息的损失，并使用改进的 Mask-RCNN 体系结构定位扭曲位置和恢复原始图像像素，将该方法用于分割任务，能够提高 Dice 分数 20%。

Jul, 2022

自监督预训练在医学图像诊断任务中通过改善特征表示进而提高了下游任务性能，尤其是在无标注样本数量远远超过有标注样本数量时。该综述总结了近期在 X 射线、计算机断层扫描、磁共振和超声成像领域中应用自监督预训练与全监督学习相比较的研究，最重要的发现是自监督预训练普遍提高了诊断任务的性能。基于综合证据，为考虑使用自监督学习的实践者提供了相关的建议，同时针对当前研究中存在的局限性，提出了未来研究的方向与实践，如将临床知识与理论基础的自监督学习方法结合、在公共数据集上进行评估、扩展对超声成像领域的研究证据，以及表征自监督预训练对泛化性能的影响。

Sep, 2023

本文提出了一种基于自监督学习的心脏磁共振图像分割方法，通过预测解剖位置作为监督信号来学习特征，避免了手动标注数据的高成本问题，同时获得了比从零开始训练的 U-net 更好或可比的分割准确度。

Jul, 2019

本篇综述论文讨论了自监督学习在视频领域的应用，主要归纳了四种不同的自监督学习方法，分别为预测任务、生成式学习、对比学习和跨模态协议，并讨论了现有方法的局限性和未来发展方向。

Jun, 2022

本文研究通过建立基于人类视觉注意的模型来学习图像的可转移表示，以取代直接学习类标签所造成的图像理解的简化。通过在超声视频中预测视觉显著性或注视点回归，利用卷积神经网络从注视数据集中学习视觉注意模型，并评估该模型在超声标准平面检测任务中的可迁移性。实验表明，在有限标记的场景下，微调视觉显著性预测器优于随机初始化，平均 F1 分数整体提高 9.6％，对于心脏平面提高了 15.3％。另外，该学习方法生成的表示发现是可靠的，在近乎监督的基准模型的精度上接近。

Mar, 2019

本文提出一种新的自监督学习技术来解决医学影像数据标注不足、数据不平衡等问题，在临床脑 CT 扫描的实验中，该方法取得了很好的效果。

Nov, 2020

自我监督学习和半监督学习在医学影像领域的新进展，通过 S4MI（自我监督和半监督医学影像）管道，使用 10% 标签注释的自我监督学习在大多数数据集的分类任务上表现优于 100% 标签注释，而使用 50% 标签数较少的半监督方法在三个数据集的分割任务上表现更好。

Nov, 2023

通过在训练过程中直接强制将强大的三维结构先验性知识融入模型，我们提出了一种新的方法来加强现有的自监督学习方法，并通过一系列数据集实验证明了我们的三维感知表示比传统的自监督基线更加稳健。

Jun, 2024