基于深度学习的计算病理学领域的研究表明，利用全切片图像（WSIs）客观预测癌症患者预后的效果显著。然而，目前大多数预后方法局限于组织病理学或基因组学，不可避免地降低了其准确预测患者预后的潜力。为了解决这些问题，我们提出了一种弱监督、基于注意机制的多模态学习框架 —— 互相引导的跨模态转换器（MGCT），可以利用组织学特征和基因组特征来建模肿瘤微环境内的基因型 - 表型相互作用。通过使用来自癌症基因组图谱（TCGA）的五种不同癌症类型的近 3600 个 Gigapixel WSIs 进行实验，广泛的实验结果一致表明 MGCT 优于现有的最先进方法（SOTA）。

Nov, 2023

利用病理图像和基因组学特征进行生存预测在癌症分析和预后中变得越来越重要。本文提出了一种多模态跨任务交互 (MCTI) 框架，用于探索亚型分类和生存分析任务之间的内在关联。通过利用亚型分类任务来捕捉病理图像中与肿瘤微环境相关的特征，在基因组特征提取中应用多头注意机制来自适应地执行基因分组，获得与任务相关的基因嵌入。通过病理图像和基因组数据的联合表示，我们进一步引入了一种运输引导注意 (TGA) 模块，利用最优传输理论来模拟亚型分类和生存分析任务之间的关联，有效地转移潜在信息。大量实验证明了我们方法的优越性，MCTI 在三个公共基准测试中表现优于现有的最先进框架。

Jun, 2024

提出了一种多模态变压器模型 (PathOmics)，将病理学和基因组学洞察力结合到结直肠相关癌症存活预测中，通过无监督预训练来捕捉吉格像素全幅图像和各种基因组数据之间的固有互动，并且在预训练的多模态知识聚合后，我们的任务特定模型微调可以扩大适用于多模态和单模态数据（如仅图像或基因组）的数据效用范围，验证结果表明我们的方法在 TCGA 结直肠癌队列上是具有竞争力的并且胜过现有研究。

Jul, 2023

整合多模态存活方法、千亿像素组织学全幻灯片图像和转录组学，通过凝聚形态学原型和生物途径原型对 WSI 和转录组简化，再利用聚合网络（Transformer 或最优运输交叉对齐）处理得到的多模态令牌，能在较小且固定的令牌数量下实现高性能预测肿瘤患者预后、分层，同时实现较少的计算量并具备新的可解释性分析。

Jun, 2024

通过在高通量测序技术中整合病理图像与基因组信息，本论文提出了一种跨模态转换与对齐（CMTA）框架，探索内在的跨模态关联性并转移互补信息，从而显著提高病人全面存活分析的判别能力。

Sep, 2023

通过多模态框架和生物学洞察来提高癌症生存预测准确性。

Mar, 2024

此研究提出了一种名为 DeepAttnMISL 的多实例深度学习方法，通过引入两种方式（siamese MI-FCN 和 attention-based MIL pooling）从 WSI 中高效地学习图像特征，然后将 WSI 级别的信息聚合到患者级别。该方法适用于大型数据集，并具有更好的可解释性，可用于癌症患者风险评估和个性化医疗。

Sep, 2020

本研究提出了一种基于生物通路令牌和组织学图像令牌的转换器模型，结合了 WSI 和大量转录组学数据，具有作为细胞功能解释单位的前瞻性，并在肿瘤患者生存预测方面取得了最佳效果。

Apr, 2023

通过构建多尺度异质感知超图，挖掘生物实体间的多样互动以获得全局表示，并在三个基准数据集上表现出优越性能。

Apr, 2024

利用多对一回归变压器 M2ORT，通过分解多尺度特征提取器来处理病理图像的层次结构，从而直接从数字病理图像预测空间转录组学表达，实现了更少的参数和浮点计算，并在三个公共转录组学数据集上取得了最先进的性能。

Jan, 2024