通过多模态多任务多实例学习的 PathM3 框架，有效地将组织切片图像与诊断说明对齐，从而在组织病理学图像分类和生成诊断说明任务上提高了分类准确性和生成效果。

Mar, 2024

基于 BLIP-2 框架，使用病理报告中的精选文本与整张切片图像配对，开发了一种视觉语言模型，实现了共享的图像 - 文本嵌入空间，如文本或图像检索以寻找感兴趣的案例，以及将 WSI 编码器与冻结的大型语言模型（LLM）集成，以实现基于 WSI 的生成文本能力，如报告生成或 AI 交互。在超过 35 万张 WSI 和诊断文本配对的去标识化数据集上，展示了病理医师对文本生成和文本检索的评估，以及 WSI 分类和工作流程优先级排序（切片级别的分流）。平均来说，根据病理医师的评估，78％的 WSI 的模型生成的文本准确无误、没有临床上显著的错误或遗漏。这项工作展示了语言与 WSI 嵌入相结合的激动人心的潜力能力。

Jun, 2024

通过引入整合图转换器框架，本研究在数字病理学中用于弱监督组织病理学全幻灯片图像分类的多实例学习策略可以同时捕捉上下文感知的关系特征和全局图像表示，实验证明该方法在 WSI 数据集上具有优越性能，准确率提高 1.0%-2.6%，在 AUROC 上提高 0.7%-1.6%。

Mar, 2024

提出了一个全局利用 WSI 的 Hierarchical Attention-Guided Multiple Instance Learning 框架，该框架动态地、全面地发现了 WSIs 的多个分辨率上的显著区域，同时使用 Integrated Attention Transformer（由多个 Integrated Attention Modules 组成）进一步提高了 transformer 的性能，实验表明，该方法在多个数据集上取得了最先进的表现。

Jan, 2023

自我监督整个切片学习（S3L）框架可以通过利用整个切片的固有区域异质性、组织学特征变异性和信息冗余性来学习高质量的整个切片表示，用于癌症诊断和基因突变预测等诊断任务，并且在两种生物医学显微镜条件下显著优于基线模型。

Feb, 2024

使用全幻灯片图像生成病理报告的多示例生成模型 (MI-Gen) 可减轻经验不足的病理医生的工作负担并提高临床自动化，同时简单的语义提取可以实现最佳性能且公开可用。

Nov, 2023

本文提出了一种名为 MEGT 的创新型多尺度高效图形变压器框架，用于 WSI 分类，并采用两个独立的 EGT 分支处理 WSI 中的低分辨率和高分辨率补丁嵌入以及通过多尺度特征融合模块融合这些令牌。

May, 2023

利用病理图像和基因组学特征进行生存预测在癌症分析和预后中变得越来越重要。本文提出了一种多模态跨任务交互 (MCTI) 框架，用于探索亚型分类和生存分析任务之间的内在关联。通过利用亚型分类任务来捕捉病理图像中与肿瘤微环境相关的特征，在基因组特征提取中应用多头注意机制来自适应地执行基因分组，获得与任务相关的基因嵌入。通过病理图像和基因组数据的联合表示，我们进一步引入了一种运输引导注意 (TGA) 模块，利用最优传输理论来模拟亚型分类和生存分析任务之间的关联，有效地转移潜在信息。大量实验证明了我们方法的优越性，MCTI 在三个公共基准测试中表现优于现有的最先进框架。

Jun, 2024

本文提出了一种用于 WSI 分析的新型 Hierarchical Interaction Graph-Transformer（HIGT），通过学习 WSI 金字塔的局部和全局特征，并建立不同层次之间的双向交互，实现了肿瘤亚型和分期任务上的优于现有方法的性能。

Sep, 2023

使用自监督学习和基因表达谱进行多模态预训练，Tangle 可以在组织学图像中构建幻灯片嵌入，并且在性能上优于有监督和无监督基线模型。

May, 2024