Apr, 2024

基于多头注意力的深度多示例学习

PDF
TL;DRMAD-MIL 是一个基于多头注意力机制的深度多实例学习模型，针对数字病理学中弱监督的整张切片图像分类而设计。在模型复杂度简化的同时，MAD-MIL 能够与先进模型如 CLAM 和 DS-MIL 取得竞争性结果，并在 MNIST-BAGS 和公共数据集（包括 TUPAC16、TCGA BRCA、TCGA LUNG 和 TCGA KIDNEY）上对 ABMIL 进行持续超越。该模型展示了切片表示中的信息多样性、可解释性和效率的提升。结合较少的可训练参数和较低的计算复杂度，这使得该模型成为自动化病理工作流程的有希望的解决方案。我们的代码可在此 https URL 找到。
发现论文，激发创造
  • MamMIL：基于状态空间模型的整片切片图像多实例学习

    通过将 Transformer 与多实例学习（MIL）框架结合使用整张切片图像（WSIs），我们提出了一种 MamMIL 框架，首次将选择性结构状态空间模型（即 Mamba）与 MIL 结合起来，实现了对实例依赖性的建模并保持了线性复杂性。在两个数据集上的实验证明，MamMIL 可以以比基于 Transformer 的最先进的 MIL 框架更小的内存占用来实现先进的分类性能。

    Mar, 2024

  • 基于屏蔽的困难实例挖掘的多实例学习框架用于全切片图像分类

    通过应用基于注意力机制的多示例学习方法，创新地利用硬样本在分类边界建模中的好处，提出一种新的多示例学习框架，使用掩码硬实例挖掘（MHIM-MIL）的思想，旨在使学生模型学习到更好的判别边界。实验证明，MHIM-MIL 在性能和训练成本方面优于其他最新方法。

    Jul, 2023

  • 专注挑战多实例学习用于整张幻灯片图像分类

    多案例学习方法在整张幻灯片图像分析中仍然存在过拟合的挑战。本文提出了一种名为 ACMIL 的注意力挑战式多案例学习方法，旨在更好地捕捉有挑战性的预测实例，并通过三个 WSI 数据集的评估证明了其优越性。通过热图可视化、UMAP 可视化和注意力值统计，全面展示了 ACMIL 在克服过拟合挑战方面的有效性。

    Nov, 2023

  • 基于 Transformer 的多层多实例学习用于全切片图像分类

    提出了一种多层多实例学习与 Transformer 相结合的方法，能有效处理大量实例的 MIL 任务，并在 WSI 图像分类任务上展示出优秀的性能。

    Jun, 2023

  • 重新思考基于注意力的多实例学习在全切片病理图像分类中的应用：一个实例属性的观点

    提出了一个属性驱动 MIL 框架来解决注意力机制在区分实例上的限制，并通过空间属性约束和属性排序约束改进了模型的识别能力，进而在多个评估指标上优于现有的最先进框架。

    Mar, 2024

  • DTFD-MIL: 双层特征蒸馏多示例学习用于组织病理学全切片图像分类

    提出在组织病理学 WSI 分类问题中，通过引入虚拟 pseudo-bags 的概念并构建双层 MIL 框架来扩大样本数，同时在基于注意力的 MIL 框架下推导实例概率，显著优于最新方法并可适用于更广泛的 MIL 应用。

    Mar, 2022

  • 基于全切片图像的肿瘤生存预测：基于注意力引导的深度多示例学习网络

    此研究提出了一种名为 DeepAttnMISL 的多实例深度学习方法，通过引入两种方式（siamese MI-FCN 和 attention-based MIL pooling）从 WSI 中高效地学习图像特征，然后将 WSI 级别的信息聚合到患者级别。该方法适用于大型数据集，并具有更好的可解释性，可用于癌症患者风险评估和个性化医疗。

    Sep, 2020

  • 自监督对比学习的双流多示例学习网络用于全切片图像分类

    本论文提出了一种基于 MIL 的方法，用于全幻灯片图像（WSI）分类和肿瘤检测，无需局部注释，并提出了自我监督对比学习及金字塔融合机制，从而提高分类和定位的准确性。

    Nov, 2020

  • 如病理医师一般诊断：变形金刚启用的分层注意力引导多示例学习用于全切片图像分类

    提出了一个全局利用 WSI 的 Hierarchical Attention-Guided Multiple Instance Learning 框架，该框架动态地、全面地发现了 WSIs 的多个分辨率上的显著区域，同时使用 Integrated Attention Transformer（由多个 Integrated Attention Modules 组成）进一步提高了 transformer 的性能，实验表明，该方法在多个数据集上取得了最先进的表现。

    Jan, 2023

  • 针对全尺寸图像的高效信息融合：基于同心双重融合注意力的多实例学习

    数字病理学中，Concentric Dual Fusion Attention-MIL (CDFA-MIL) 框架结合点到区域特征列注意力和点到点同心行注意力，使用同心补丁，有效融合相关信息，增强特征表示，并为 WSI 分析提供更强的相关性指导， 在准确性和 F1 分数上显着超越传统 MIL 方法，相应地在 Camelyon16 和 TCGA-NSCLC 等知名数据集上实现了平均准确率和 F1 得分分别为 93.7% 和 94.1% 的显著进展。

    Mar, 2024