Nov, 2020

仅仅一个解释是不够的：用于图像分类的结构化注意力图

PDF
TL;DR本文提出了结构化注意力图 (SAG)，通过捕捉图像区域的不同组合对分类器的置信度的影响，压缩地表示图像的一组注意力图。为了更深入地了解分类器的决策，我们提出了计算 SAG 的方法和 SAG 的可视化。我们对 SAG 与传统注意力图在回答图像分类的反事实问题方面进行了用户研究。结果表明，与基线相比，使用 SAG 的用户回答比较式反事实问题更正确。
attention mapsconvolutional networkstructured attention graphsclassifier's confidencevisualization
发现论文，激发创造
  • 使用图形注意力网络的超像素图像分类

    本研究提出了使用图神经网络模型进行图像分类的方法，将输入图像转换为区域邻接图，在该图中，区域是超像素，边连接相邻超像素。实验表明，将图卷积与自我关注机制相结合的图注意力网络（GATs）优于其他图神经网络模型。

    Feb, 2020

  • 结构化注意力网络

    本文研究了如何将更丰富的结构分布用于深度神经网络中的嵌入式分类推理，通过两种不同的结构注意力网络：线性链条件随机场和基于图形的解析模型的实验，展示了这些结构的注意力网络超过了基线的注意力模型在各种合成和真实任务中的表现。

    Feb, 2017

  • 图像分类的明确建模注意力图

    本文介绍了一种新的自我注意力模块，使用一种明确建模的注意力映射，利用几何先验来提高图像分类的准确性，实验证明该方法在 ImageNet ILSVRC 中的准确性提升了 2.2%，在参数和计算量分别减少 6.4% 和 6.7% 的情况下，相对于 AA-ResNet152 准确率提高了 0.9%。

    Jun, 2020

  • 学会关注

    通过加入可训练的注意力模块，使得卷积神经网络在进行图像分类时能够更好地聚焦于感兴趣的区域，进一步提高了模型的稳健性。

    Apr, 2018

  • 用于诊断全幻灯片图像的语义感知注意引导

    精确的癌症诊断在数字病理学中仍然是一个重要挑战，主要是由于全幻灯片图像中的巨像素大小和复杂空间关系所致。本文引入一种名为 Semantics-Aware Attention Guidance（SAG）的新框架，通过将诊断相关实体转换为注意信号和灵活的注意力损失，有效地整合了组织解剖和癌症区域等语义信息，在两个不同的癌症数据集上的实验证明了模型准确性、精度和召回率的持续改进，并揭示了启发式引导的结合使模型能够关注诊断关键区域。SAG 不仅对于所讨论的模型有效，其适应性还可扩展到任何基于注意力的诊断模型，从而为进一步提高癌症诊断的准确性和效率打开了令人兴奋的可能性。

    Apr, 2024

  • 深度注意力结构化表示学习用于视觉识别

    本文介绍了一个关注机制的结构化表示学习框架，可以预测图像类别标签和注意力映射，并在没有其他监督的情况下以端到端的方式进行学习，改进了性能，并在标准场景识别和细粒度分类基准测试中取得了最新成果。

    May, 2018

  • Hyper-SAGNN: 一种基于自注意力的超图神经网络

    本文介绍了一种新的基于自注意力机制的图神经网络 Hyper-SAGNN，可用于不同类型的超图及其不同的学习任务，包括各种基准网络数据集以及基因组学中的单细胞 Hi-C 数据集。该模型在传统任务上优于现有模型，在新任务 “outsider identification” 上表现优异。

    Nov, 2019

  • 图注意力网络

    本文提出新颖的神经网络结构图注意力网络（GATs），利用掩码的自我关注层处理图结构化数据的缺点，有效提出解决谱学派图神经网络中的几个关键挑战的方法，并在四个数据集上取得了最先进的结果。

    Oct, 2017

  • 图注意力回顾

    本文针对图神经网络进行多个实验，并研究其在节点分类问题中的理论表现。研究结果指出，图注意力机制可以区分类内和类间边缘，重要边的权重得以保留，进而实现完美的节点分类。

    Feb, 2022

  • Explanation vs Attention: 一种用于 VQA 注重力获取的双人博弈

    使用对抗训练作为监督学习来提高注意力映射，改善视觉问答任务的表现，同时与其他学习分布的方法相比，发现对抗损失函数表现更好。

    Nov, 2019