Jan, 2024

深度空间上下文：当注意力模型遇见空间回归

PDF
TL;DR这篇研究提出了 “深度空间背景”（DSCon）方法，它利用空间背景的概念来研究基于注意力的视觉模型，在组织病理学家的启发下，该方法可以应用于各种领域。DSCon 通过将空间回归集成到流程中来定量衡量空间背景在特征、目标值（注意力得分）或残差的邻近区域特征中是否可观察，以此帮助验证研究问题。实验证明，在肿瘤病变的分类中，空间关系要比正常组织更重要。此外，研究还观察到，在空间回归中考虑的邻域大小越大，上下文信息的价值就越小。此外，观察到在特征空间中考虑的空间背景测量值最大，而目标值和残差中的空间背景测量值较小。
deep spatial contextattention-based vision modelsspatial contexthistopathologistsspatial regression
发现论文，激发创造
  • 一种深度空间上下文长期循环卷积网络用于显著性检测

    本文提出了一种新的计算显著性模型，即深度空间上下文长期循环卷积网络（DSCLRCN），以预测自然场景中人们注视的位置，并将场景上下文调制集成到 DSLSTM 中，从而显着提高了显著性检测性能。

    Oct, 2016

  • 基于方向感知的空间背景特征用于阴影检测和去除

    本文提出了一种基于深度神经网络和方向感知注意机制的阴影检测和去除方法，并提供了相应的实验和对比结果。

    May, 2018

  • 面向方向的空间上下文特征在阴影检测中的应用

    本文提出了一种基于空间递归神经网络（RNN）的方向感知注意机制的阴影检测新网络，该网络将方向感知空间上下文特征聚合到 RNN 中，通过学习来恢复方向感知空间上下文（DSC），并将其嵌入到卷积神经网络（CNN）中，以学习不同层次的 DSC 特征。该网络在实验中表现出比现有方法更好的性能。

    Dec, 2017

  • 室内场景识别的语义引导上下文建模

    本文提出了一种基于语义分割的新方法 SpaCoNet，旨在同时模拟对象的空间关系和共现情况，进而在室内场景识别任务中生成语义引导的特征表示，该方法具有良好的通用性和效果。

    May, 2023

  • 具有自监督的情境化时空对比学习

    本文提出了一种基于上下文感知的时空对比学习（ConST-CL）的方法，该方法成功地实现了学习细粒度视频表示，利用区域预文本任务引导模型从一个视角到另一个视角转换，并整合整体和局部表示的并行学习过程。我们在多个数据集上评估了所学得的表示，并展示了 ConST-CL 在 6 个数据集上取得了具有竞争力的结果，包括 Kinetics，UCF，HMDB，AVA-Kinetics，AVA 和 OTB。

    Dec, 2021

  • 透过树木看见道路：一种利用航空影像对空间依赖性建模的基准

    本研究提出了一种用于评估地理空间机器学习模型空间远程上下文理解能力的道路分割基准数据集，展示了常用的语义分割模型在该任务中的失败情况，并分析了模型在决策的相关背景（未遮挡的道路）距离变化时的性能变化。

    Jan, 2024

  • 基于高效注意力的特征增强场景解析

    本文提出了一种新颖的特征增强网络，通过从多个特征提取级别收集空间上下文，并计算每个表示级别的注意力权重以生成最终的类别标签。该模型还学习了低分辨率下的空间上下文信息以保留场景元素之间的抽象空间关系并降低计算成本，最终的特征集合中融合了空间注意力特征，并在 ADE20K 和 Cityscapes 数据集上优于所有现有模型。

    Feb, 2024

  • SCA-CNN：用于图像字幕的卷积网络中的空间和通道注意力

    本文介绍了一种新的卷积神经网络 SCA-CNN，其中引入了空间和通道注意力，用于图像描述任务，结果表明 SCA-CNN 明显优于现有的基于视觉关注的图像描述方法。

    Nov, 2016

  • 使用空间上下文表示进行多类细胞检测

    本文介绍了一种新方法在数字病理学中自动检测和分类不同类型的细胞，包括肿瘤细胞，淋巴细胞或基质细胞，该方法通过使用空间统计功能来描述局部密度和深度聚类技术来学习高级细胞表征，特别关注空间上下文，该方法在不同的基准测试中表现出更好的性能，尤其是在分类任务上，在乳腺癌细胞检测和分类新数据集上进行了验证，并让代码和数据公开可用。

    Oct, 2021

  • 学习空间感知回归用于视觉跟踪

    本文基于深度特征，提出了两种补充回归方法用于鲁棒视觉跟踪，包括核化岭回归和全卷积神经网络，最终将这两种方法的输出结合起来提高跟踪结果的准确率。

    Jun, 2017