自我监督学习在临床时间序列数据中的应用引起了广泛关注，本文提出了一种新的自我监督学习方法 —— 顺序多维自我监督学习 (Sequential Multi-Dimensional SSL)，在序列的整体和个体高维数据点级别上应用自我监督损失以更好地捕捉两个尺度上的信息。实验证明，使用本方法进行预训练并在后续任务中微调可以提高性能，并在不同自我监督损失函数中取得改进。

Jul, 2023

本文介绍了一种名为 Collaborative Self-Supervised Learning（ColloSSL）的新技术，利用用户多个设备收集的未标记数据来学习数据的优质特征，实验结果表明，ColloSSL 在多个实验设置中均优于全监督和半监督学习技术，与最佳基准测试成绩相比，F_1 得分的绝对增量最高达 7.9％；此外，ColloSSL 在低数据情况下也表现优异，仅利用最佳情况下可用的十分之一的标记数据即可优于全监督方法。

Feb, 2022

提出了一种基于多模态数据融合的自监督学习框架，采用时间卷积模态特定编码器和基于 Transformer 的共享编码器实现高效融合，自动分配标签并使用先验任务进行预训练，从而实现 generalized 的多模态表示，最终在各种情感识别任务中取得了最新的成果，并在低数据规模下证明了比完全监督方法更准确、更强健的性能。

Mar, 2023

TriMix 是一种自我监督学习的新概念，通过数据线性插值生成虚拟嵌入，积极探索潜在的空间扩充，其提出的方法在自我监督学习和半监督学习任务中表现良好。

Jun, 2022

自监督学习 (SSl) 在计算机视觉中取得了重要突破，在生物医学中具有重要作用，特别是在需要高度专业知识的数据注释领域。本研究使用先进的 SSL 框架，即 Masked Siamese Networks (MSNs)，对内窥镜视频分析进行研究，以检测和治疗感染、慢性炎症性疾病或癌症。我们构建了大规模的无标签内窥镜视频数据集，用于训练 MSNs，以充分利用 SSL 的优势，并通过有限的注释数据集进行二次训练，从而在内窥镜基准测试中实现了最先进的性能，如腹腔镜和结肠镜手术阶段识别以及结肠镜息肉表征。此外，我们实现了注释数据量的 50％减少，同时不降低性能。因此，我们的工作证明了 SSL 在内窥镜检查中可以大大减少对注释数据的需求。

Aug, 2023

本文介绍了一种利用自监督学习和对比学习实现的影像分割技术，该技术可以在大量没有标注数据的情况下学习，并且在三个磁共振成像数据集上验证了其有效性。

Jun, 2020

本文提出了一个名为 DrasCLR 的新型自监督学习（SSL）框架，采用基于实例鉴别的 SSL 方法，通过两种特定于领域的对比学习策略，在 3D 医学成像中提取具有解析解剖学特定功能的特征，可用于不需要冠军数据来完成许多下游任务，比如肺部图像的预测和分割任务，包括病人存活预测任务和广泛且密集预测的肺气肿子类型检测，这可以大大减少注释精力，并且证明了在自监督学习框架中引入解剖上下文的重要性。

Feb, 2023

本研究提出一种卷积神经网络和自监督学习的方法，用于在有限标记数据情况下进行高效的三维到二维分割，通过在临床相关任务中验证，证明该方法比现有技术在有限标记数据情况下显著提升了分割性能，并且自监督学习方法可以进一步提高性能，而且对于网络架构无关。

Jul, 2023

本文研究将对比学习应用于医学图像分析领域，发现在医学图像上应用最先进的对比学习方法 MoCo v2 存在维度坍缩问题，并提出了局部特征学习和特征去相关两项关键贡献，实验证明这两个贡献显著提升了模型在医学分割任务的性能。本研究突显了将自监督学习技术有效适应医学图像任务特征的重要性。

Feb, 2024

提出了一种多视角的自监督学习预训练技术，用于改善情感识别在数据标注有限的情况下的性能，实验证明该框架能够提高业绩。

Jun, 2024