ICCVAug, 2021

神经网络中的非局部块统一化

PDF
TL;DR本文提出了一种新的视角，将非局部模块看作在完全连接的图上生成的一组图滤波器，并使用 Chebyshev 图滤波器推导出了一种统一的公式以解释和分析现有的非局部模块，并提出了一种更加高效和稳健的谱非局部模块，该模块可以更好地捕获深度神经网络中的长距离依赖，实验结果表明，该方法在图像分类、动作识别、语义分割和人员重识别任务中具有明显的改进和实际适用性。
nonlocal-based blocksgraph filtersspectral nonlocal blockdeep neural networkscomputer vision
发现论文，激发创造
  • 非局部神经网络

    该论文提出了非局部操作作为一种用于捕捉长程依赖性的通用组建块，可以在许多计算机视觉体系结构中使用，并且在视频分类和静态图像识别中表现优异。

    Nov, 2017

  • 非局部解耦神经网络

    本文研究了非局部块，发现其关注计算可以分为两个项，其中白化的成对项和一元项分别代表两个像素之间的关系及每个像素的显著性。本文提出了解耦的非局部块，证明了该设计在不同任务中的有效性。

    Jun, 2020

  • 非局部神经网络、非局部扩散和非局部建模

    本文旨在通过对卷积神经网络中的非局部操作权重矩阵进行频谱分析，提出了新的非局部块正则化形式。通过这种方式，我们不仅可以学习非局部交互，还可以获得稳定的动态响应，从而允许更深的非局部层级结构。同时，本研究还揭示了非局部网络与其他非局部模型之间的内在关联。

    Jun, 2018

  • 使用图卷积神经网络统一局部与非局部信号处理

    本文提出一种基于图卷积神经网络的本地和非本地信号处理的统一框架，并通过卷积层采用变量输入，从而使网络能够适应图结构的变化，进而设计了一种新的风格迁移方法。

    Feb, 2017

  • 非局部 U-Net 用于生物医学图像分割

    本文提出非局部 U-Net，它配备了灵活的全局聚合块，在医学影像分割中取得了良好的结果。

    Dec, 2018

  • 紧凑广义非局部网络

    为更好地识别细粒度对象和动作，我们扩展了非局部模块，考虑了任意两个通道位置之间的关系，并在通道组内实现以优化性能。实验结果表明，扩展的非局部模块在细粒度对象识别和视频分类上有明显的改进和实用价值。

    Oct, 2018

  • 快速局部谱滤波的图卷积神经网络

    该研究将卷积神经网络推广到高维不规则图像中，通过谱图理论提出了一种卷积滤波器设计方法，在保持线性和常数学习复杂度的同时，实现了对任意图结构的卷积作用，成功在图像识别领域实现了局部、平稳、组合特征的学习。

    Jun, 2016

  • 基于图结构数据的深度卷积网络

    本文介绍了一种将谱网络与图估计过程相结合的方法，用于构建小学习复杂度和处理没有强规律的领域的深层神经网络，并在大规模分类问题中测试并达到更好的性能。

    Jun, 2015

  • 用于图像修复的 Residual Non-local Attention 网络

    本文提出了残差非局部注意力网络用于高质量图像恢复，利用局部和非局部注意块来提取长程依赖的特征并对挑战性部分进行更多关注，在局部和非局部注意力学习中加入残差机制以增强网络的表征能力，可以被推广应用于各种图像恢复应用中，如图像去噪，去马赛克，压缩失真减少和超分辨率。实验结果表明，我们的方法在定量和定性指标上都取得了可比或更好的结果。

    Mar, 2019

  • Perspective+ Unet：双路径融合与高效非局部注意力增强的优秀感受野分割方法

    针对医学图像分割的局限性，我们提出了一种新的架构，Perspective+ Unet。该架构具有三个主要创新点：在编码器阶段引入了双通道策略，通过结合传统和扩张卷积的结果，既保持了局部感知域又显著扩展了它，从而更好地理解图像的全局结构；采用高效的非局部变换块 ENLTB 来有效地捕捉长程依赖关系，具有线性计算和空间复杂性；采用空间交叉尺度集成策略，在模型阶段跨级别细化特征，以协调全局和局部信息。我们在 ACDC 和 Synapse 数据集上进行了实验，结果验证了我们提出的 Perspective+ Unet 的有效性。

    Jun, 2024