癌症生存预测的多模态原型
本研究提出了一种基于生物通路令牌和组织学图像令牌的转换器模型,结合了 WSI 和大量转录组学数据,具有作为细胞功能解释单位的前瞻性,并在肿瘤患者生存预测方面取得了最佳效果。
Apr, 2023
提出了一种多模态变压器模型 (PathOmics),将病理学和基因组学洞察力结合到结直肠相关癌症存活预测中,通过无监督预训练来捕捉吉格像素全幅图像和各种基因组数据之间的固有互动,并且在预训练的多模态知识聚合后,我们的任务特定模型微调可以扩大适用于多模态和单模态数据(如仅图像或基因组)的数据效用范围,验证结果表明我们的方法在 TCGA 结直肠癌队列上是具有竞争力的并且胜过现有研究。
Jul, 2023
基于深度学习的计算病理学领域的研究表明,利用全切片图像(WSIs)客观预测癌症患者预后的效果显著。然而,目前大多数预后方法局限于组织病理学或基因组学,不可避免地降低了其准确预测患者预后的潜力。为了解决这些问题,我们提出了一种弱监督、基于注意机制的多模态学习框架 —— 互相引导的跨模态转换器(MGCT),可以利用组织学特征和基因组特征来建模肿瘤微环境内的基因型 - 表型相互作用。通过使用来自癌症基因组图谱(TCGA)的五种不同癌症类型的近 3600 个 Gigapixel WSIs 进行实验,广泛的实验结果一致表明 MGCT 优于现有的最先进方法(SOTA)。
Nov, 2023
利用病理图像和基因组学特征进行生存预测在癌症分析和预后中变得越来越重要。本文提出了一种多模态跨任务交互 (MCTI) 框架,用于探索亚型分类和生存分析任务之间的内在关联。通过利用亚型分类任务来捕捉病理图像中与肿瘤微环境相关的特征,在基因组特征提取中应用多头注意机制来自适应地执行基因分组,获得与任务相关的基因嵌入。通过病理图像和基因组数据的联合表示,我们进一步引入了一种运输引导注意 (TGA) 模块,利用最优传输理论来模拟亚型分类和生存分析任务之间的关联,有效地转移潜在信息。大量实验证明了我们方法的优越性,MCTI 在三个公共基准测试中表现优于现有的最先进框架。
Jun, 2024
该研究提出了一种基因诱导的多模态预训练(GiMP)框架,通过整合基因组学和全面切片图像(WSIs)进行分类任务,处理了多模态图像组合分类的主要挑战,并实现了 99.47% 的准确率。
Sep, 2023
G-HANet 是一种新颖的基于基因组知识提炼的超级关注网络,通过对 WSI 图像进行基因组数据重构,实现了来自组织病理学和基因组学角度的病人超级关注建模,以改善癌症预后。
Mar, 2024
通过视觉变换器为高分辨率 WSI 从研究多模态分类器训练的 DLBCL(弥漫性大 B 细胞淋巴瘤)癌症亚型提出了一个前景恶劣,比现有的替代方法更便宜,更快速。
Aug, 2023
基于多模态融合模型,结合病理图像和基因组数据,本文提出一种适用于癌症生存分析的病理基因异质图模型(PGHG)。通过生物学先验知识,该模型实现了特征提取、生存预测和可解释性展示等功能,并在多个癌症数据集上证明了其性能优越性。
Apr, 2024
该论文提出了一种名为 MaskHIT 的模型,它使用预训练的 transformer 模型来重建被遮盖的 WSI 区域并学习组织学特征,进而在癌症诊断和预测任务中表现出比其他方法更好的效果。
Apr, 2023
提出了一种用于生存预测的多模式最优传输协方差建议变压器框架,其中使用最优传输来匹配外展病理学切片和基因嵌入,以选择信息丰富的块来表示巨像素 WSI。
Jun, 2023