现代电子健康记录（EHRs）通过顺序深度学习在个性化患者健康轨迹的跟踪方面拥有巨大的潜力，然而如何有效利用 EHRs 中的多个模态面临重大挑战，因为其复杂特性（如高维度、多模式、稀疏性、不同的记录频率和时间的不规则性）。为了应对医学时间序列中的稀疏性和时间间隔的不规则性，本文引入了一种新的多模态对比学习框架，重点关注医学时间序列和临床笔记。为了利用医学时间序列和临床笔记之间的相互关系，该框架配备了全局对比损失，将患者的多模态特征表示与相应的出院小结进行对齐。通过全局对比来学习区分性的多模态特征。在真实世界的 EHR 数据集上进行了大量实验，证明我们的框架在使用 UF 健康系统的多模态数据（来自 UF Health Gainesville、UF Health Jacksonville 和 UF Health Jacksonville-North 三家医院的 12 万多次大型住院手术）预测九种术后并发症发生的示例任务上优于现有方法。

Apr, 2024

我们提出了一种监督对比学习框架，通过学习每个时间步长的患者时间序列的嵌入表示来预测患者在随着观察到更多患者数据的过程中感兴趣结果的可能性变化。我们的方法在预测败血症患者的死亡率（MIMIC-III 数据集）和追踪认知障碍的进展（ADNI 数据集）方面优于现有的基准方法，并且在实验中始终能够正确恢复合成数据集的嵌入结构。

Dec, 2023

利用先进的自监督多模式对比学习技术， 注重临床笔记和时间序列，我们引入了一种损失函数：多模式邻域对比损失 (MM-NCL)，展示了我们方法在线预测任务中出色的线性验证和零样本表现。

Mar, 2024

本研究提出了一种名为 CL-TCI 的对比学习框架，与 MoCo 和 SimCLR 两种方法相结合，利用医学图像中的时间相关性信息，成功地使得在三个胸部 X 射线数据集上的肺部分割结果优于没有任何时间相关性的对比学习基线。

Sep, 2021

本文提出了一种新的时间序列表示学习方法，通过自监督任务的上下文、时间和转换一致性，结合不确定性加权方法，实现了多任务学习和跨领域传递学习，进而在时间序列分类、预测和异常检测等下游任务中取得了更好表现。

Mar, 2023

提出了一种新的基于对比损失的无监督表示学习框架，并通过利用数据增广方案生成新样本来优化损失函数，实现混合样本的预测任务，以利用软目标进行学习。实验结果表明本方法在单变量和多变量时间序列上的表现优于其他表示学习方法，并展示了它对于临床时间序列的传递学习的好处。

Mar, 2022

本文提出了一种层次化多标签表征学习框架，该框架可以利用所有可用标签并保留类别之间的层次关系，并引入新颖的层次保持损失。该方法是数据驱动的，自动适应任意多标签结构。实验表明，我们的关系保持嵌入在各种任务上表现良好，优于基线监督式和自监督式方法。

Apr, 2022

本文提出了一种基于遮盖的分层聚类对比学习模型（MHCCL），该模型利用多个潜在分区的分层结构中获得的语义信息用于多元时间序列的表示学习，通过新颖的向下遮罩策略过滤假负面、补充正面，进一步结合了聚类层次结构的多粒度信息，设计了新颖的向上遮罩策略以优化聚类元数据。实验结果表明，MHCCL 模型在七个广泛使用的时间序列数据集上比现有的无监督时间序列表示学习方法表现更卓越。

Dec, 2022

本文研究将对比学习应用于医学图像分析领域，发现在医学图像上应用最先进的对比学习方法 MoCo v2 存在维度坍缩问题，并提出了局部特征学习和特征去相关两项关键贡献，实验证明这两个贡献显著提升了模型在医学分割任务的性能。本研究突显了将自监督学习技术有效适应医学图像任务特征的重要性。

Feb, 2024

通过医疗图片的图像 - 图对比学习框架，利用从放射学记录中自动提取的结构化报告知识图形，独特地编码了断开的图形组件，通过关系图卷积网络和 transformer 注意力机制，在对 CheXpert 数据集进行实验时，在 1% 线性评估和少样本情况下表现优于已有的图像 - 文字对比学习方法，并达到与放射科医生相当的性能；通过利用无标签的配对图像和文本，我们的框架展示了利用结构化的临床见解来增强医学图像的对比学习的潜力，这项工作为减少医疗专家的注释需求、提高诊断精度和推进健康病人护理提供了基础。

May, 2024