非局部神经网络
本文提出了一种新的视角,将非局部模块看作在完全连接的图上生成的一组图滤波器,并使用 Chebyshev 图滤波器推导出了一种统一的公式以解释和分析现有的非局部模块,并提出了一种更加高效和稳健的谱非局部模块,该模块可以更好地捕获深度神经网络中的长距离依赖,实验结果表明,该方法在图像分类、动作识别、语义分割和人员重识别任务中具有明显的改进和实际适用性。
Aug, 2021
本文旨在通过对卷积神经网络中的非局部操作权重矩阵进行频谱分析,提出了新的非局部块正则化形式。通过这种方式,我们不仅可以学习非局部交互,还可以获得稳定的动态响应,从而允许更深的非局部层级结构。同时,本研究还揭示了非局部网络与其他非局部模型之间的内在关联。
Jun, 2018
为更好地识别细粒度对象和动作,我们扩展了非局部模块,考虑了任意两个通道位置之间的关系,并在通道组内实现以优化性能。实验结果表明,扩展的非局部模块在细粒度对象识别和视频分类上有明显的改进和实用价值。
Oct, 2018
本文研究了非局部块,发现其关注计算可以分为两个项,其中白化的成对项和一元项分别代表两个像素之间的关系及每个像素的显著性。本文提出了解耦的非局部块,证明了该设计在不同任务中的有效性。
Jun, 2020
研究了利用自然信号的自相似性进行非局部方法,提出了一种对 KNN 选择规则进行连续确定性松弛的方法,即通过温度参数逐渐接近零将原始 KNN 保持为极限,利用提出的神经最近邻块 (N3 块) 用于现代神经网络建筑中,并展示了其在图像恢复等任务中的有效性。
Oct, 2018
本文提出一种基于图卷积神经网络的本地和非本地信号处理的统一框架,并通过卷积层采用变量输入,从而使网络能够适应图结构的变化,进而设计了一种新的风格迁移方法。
Feb, 2017
本文提出了残差非局部注意力网络用于高质量图像恢复,利用局部和非局部注意块来提取长程依赖的特征并对挑战性部分进行更多关注,在局部和非局部注意力学习中加入残差机制以增强网络的表征能力,可以被推广应用于各种图像恢复应用中,如图像去噪,去马赛克,压缩失真减少和超分辨率。实验结果表明,我们的方法在定量和定性指标上都取得了可比或更好的结果。
Mar, 2019