双剑合璧:表格数据和图像数据的多模态对比学习
提出了一种通用的多模态对比学习框架,用于结合图像数据和表格数据,通过新颖的表格注意模块增强和排名表格中突出特征,并应用于阿尔茨海默病预测,实验证明了该框架的有效性。
Aug, 2023
利用多模态成像、深度学习和对比学习方法,从多模态 MRI 数据中学习鲁棒的潜在特征表示,将异构特征投影到共享空间,整合不同模态和类似主体间的互补和类似信息,进而提高了异常神经发育的预测能力和计算机辅助诊断的功效。
Dec, 2023
我们在医学领域中对比了多模式表示学习的综合性基准测试。通过这项研究,我们旨在回答以下研究问题:(i)通用领域表示对医学领域有多大的可转移性?(ii)多模式对比训练是否足够,还是还需要单模态训练的益处?(iii)特征粒度对多模式医学表示学习的有效性有何影响?为了回答这些问题,我们在相同的训练设置下调查了八个对比学习方法,并使用来自四个数据集的 280 万个图像 - 文本对进行了训练,并在 25 个下游任务上进行了评估,包括分类(零样本和线性探测),图像到文本和文本到图像的检索,以及视觉问答。我们的研究结果表明,对于第一个问题,我们的答案是肯定的;对于第二个问题,我们的答案是否定的,而且学习细粒度特征具有益处。最后,我们公开了我们的代码。
Jun, 2024
本文提出了一种 MCSC 框架,联合训练 CNN 和 Transformer 模型,并采用多尺度交叉监督对比学习来对医学图像进行结构分割。实验证明,该方法在 Dice 系数上比现有的半监督方法提高了 3.0% 以上,并且大大缩小了与全监督方法之间的性能差距。
Jun, 2023
本文提出了一种新的本地对比特征学习(LoCL)框架,其主题是从表格数据中学习本地模式 / 特征。利用特征相关性创建最大生成树并将其分解,使用卷积学习特征,受对比和重构损失控制,与其他领先方法相比在公共表格数据集上实验表明提出的方法的有效性。
Nov, 2022
现代电子健康记录(EHRs)通过顺序深度学习在个性化患者健康轨迹的跟踪方面拥有巨大的潜力,然而如何有效利用 EHRs 中的多个模态面临重大挑战,因为其复杂特性(如高维度、多模式、稀疏性、不同的记录频率和时间的不规则性)。为了应对医学时间序列中的稀疏性和时间间隔的不规则性,本文引入了一种新的多模态对比学习框架,重点关注医学时间序列和临床笔记。为了利用医学时间序列和临床笔记之间的相互关系,该框架配备了全局对比损失,将患者的多模态特征表示与相应的出院小结进行对齐。通过全局对比来学习区分性的多模态特征。在真实世界的 EHR 数据集上进行了大量实验,证明我们的框架在使用 UF 健康系统的多模态数据(来自 UF Health Gainesville、UF Health Jacksonville 和 UF Health Jacksonville-North 三家医院的 12 万多次大型住院手术)预测九种术后并发症发生的示例任务上优于现有方法。
Apr, 2024
利用先进的自监督多模式对比学习技术, 注重临床笔记和时间序列,我们引入了一种损失函数:多模式邻域对比损失 (MM-NCL),展示了我们方法在线预测任务中出色的线性验证和零样本表现。
Mar, 2024
利用多模态数据,特别是医学实验的图像和时间序列数据,提出一种新的方法来改进临床应用中的多模态深度学习,在预测死亡率和表型分型等重要领域中取得了有效的结果,同时克服了噪声和不平衡数据集的挑战,并采用不确定性模型和注意力机制,提高了模型的性能和鲁棒性。
May, 2024