Jun, 2024

ADR: 多实例学习中的注意力分散正则化方法对抗过拟合，用于整张切片图像分类

PDF
TL;DR提出了一种名为 Attention Diversity Regularization (ADR) 的简单有效的技术，通过在正规多实例学习框架中引入负熵损失来提高注意力值的熵，从而促进高熵，证明了其在多个 WSI 分类任务中优于现有方法的性能，并显示出 ADR 能够增强热图，更好地与病理学家的诊断标准对齐。
multiple instance learningwhole slide imagesattention diversity regularizationoverfitting challengesentropy of attention values
发现论文，激发创造
  • 基于多头注意力的深度多示例学习

    MAD-MIL 是一个基于多头注意力机制的深度多实例学习模型，针对数字病理学中弱监督的整张切片图像分类而设计。在模型复杂度简化的同时，MAD-MIL 能够与先进模型如 CLAM 和 DS-MIL 取得竞争性结果，并在 MNIST-BAGS 和公共数据集（包括 TUPAC16、TCGA BRCA、TCGA LUNG 和 TCGA KIDNEY）上对 ABMIL 进行持续超越。该模型展示了切片表示中的信息多样性、可解释性和效率的提升。结合较少的可训练参数和较低的计算复杂度，这使得该模型成为自动化病理工作流程的有希望的解决方案。我们的代码可在此 https URL 找到。

    Apr, 2024

  • 专注挑战多实例学习用于整张幻灯片图像分类

    多案例学习方法在整张幻灯片图像分析中仍然存在过拟合的挑战。本文提出了一种名为 ACMIL 的注意力挑战式多案例学习方法，旨在更好地捕捉有挑战性的预测实例，并通过三个 WSI 数据集的评估证明了其优越性。通过热图可视化、UMAP 可视化和注意力值统计，全面展示了 ACMIL 在克服过拟合挑战方面的有效性。

    Nov, 2023

  • 对抗性 Dropout 正则化

    提出了一种利用 Adversarial Dropout Regularization 的方法来实现神经表示从有标签的源域到无标签目标域的转移，以提高语义分割和图像分类任务的准确性，并证明了该方法的有效性。

    Nov, 2017

  • ABD-Net：注重多样性的关注机制人物再识别

    该论文提出了一种基于注意力机制的人员重新识别方法，通过整合注意力模块和多样性正则化约束，学习具有代表性、鲁棒性和更具区分力的特征表达，并通过实验表明提出的方法优于现有的最先进方法。

    Aug, 2019

  • 对抗性多样化记忆回放（ADRM）：在连续学习中缓解记忆过度拟合问题

    通过引入 Adversarially Diversified Rehearsal Memory (ADRM) 方法来解决记忆过拟合问题，ADRM 使用 FGSM 攻击来增加记忆样本的多样性，使得连续学习模型能够更加鲁棒地应对特征漂移和避免灾难性遗忘。

    May, 2024

  • 领域泛化的注意力多样化

    提出了一种基于 Attention Diversification 的新框架，以提高卷积神经网络在不同领域中的表现，并在多个基准测试中取得了最先进的表现。

    Oct, 2022

  • 重新思考基于注意力的多实例学习在全切片病理图像分类中的应用：一个实例属性的观点

    提出了一个属性驱动 MIL 框架来解决注意力机制在区分实例上的限制，并通过空间属性约束和属性排序约束改进了模型的识别能力，进而在多个评估指标上优于现有的最先进框架。

    Mar, 2024

  • 基于注意力机制的深度多示例学习

    本文提出了一种基于神经网络的置换不变聚合运算符，并展示了其在多个 MIL 数据集上的实验表现，特别是在两个真实组织病理学数据集上的表现，同时保持了可解释性。

    Feb, 2018

  • 针对全尺寸图像的高效信息融合：基于同心双重融合注意力的多实例学习

    数字病理学中，Concentric Dual Fusion Attention-MIL (CDFA-MIL) 框架结合点到区域特征列注意力和点到点同心行注意力，使用同心补丁，有效融合相关信息，增强特征表示，并为 WSI 分析提供更强的相关性指导， 在准确性和 F1 分数上显着超越传统 MIL 方法，相应地在 Camelyon16 和 TCGA-NSCLC 等知名数据集上实现了平均准确率和 F1 得分分别为 93.7% 和 94.1% 的显著进展。

    Mar, 2024

  • 距离感知自注意力深度多实例学习

    提出了一种新的多实例学习（MIL）模型，使用距离感知自注意力（DAS-MIL）来考虑图像中不同补丁之间的相对空间关系，以提高医学图像分析的精度。通过在 MNIST-based MIL 数据集和公开的癌症转移检测数据集 CAMELYON16 上评估我们的模型，证明了该模型超越了现有的多数 MIL 方法。

    May, 2023