May, 2024

HMANet：基于混合多轴聚合网络的图像超分辨率

PDF
TL;DR本文提出了一种新颖的混合多轴聚合网络（HMA），通过叠加残差混合 Transformer 块（RHTB）和网格注意力块（GAB），在超分辨率视觉任务中充分利用特征潜力信息，并通过实验验证了该模型的有效性。
transformer-based methodshybrid multi-axis aggregation network (hma)residual hybrid transformer blocks(rhtb)grid attention blocks(gab)super-resolution visual tasks
发现论文，激发创造
  • 图像超分辨率变换器中激活更多像素

    为了更好的利用 Transformer 的潜力以进行图片重构，在融合通道注意力和基于窗口的自注意机制的优势的基础上提出了一种新型的 Hybrid Attention Transformer 模型。此外，还引入了重叠交叉注意力模块并采用相同任务的预训练策略，拓展模型的能力。实验证明这个模型在图片超分辨率方面的表现优于现有方法超过 1dB。

    May, 2022

  • HAT：用于图像恢复的混合注意力变换器

    Transformer-based methods have limitations in utilizing input information, so a Hybrid Attention Transformer (HAT) is proposed to improve restoration tasks by combining channel attention and window-based self-attention schemes.

    Sep, 2023

  • 高分辨率 GAN 的改进变压器

    本文介绍了将多维块自注意力与多层感知机结合的 Transformer 模型 HiT，该模型在高清图像生成领域的表现优于传统基于卷积的方法。

    Jun, 2021

  • 单幅图像超分辨率的混合残差注意力网络

    通过采用二值化特征融合（BFF）结构，提出了基于残差组（RG）的多尺度特征提取模块和通道注意力机制的混合残差注意网络（HRAN），能够显著提高图像超分辨率的性能。

    Jul, 2019

  • 图像超分辨率的双聚合变换器

    基于 Transformer 的双聚合模型 (Dual Aggregation Transformer, DAT) 用于图像超分辨率任务中，通过在连续的 Transformer 块中交替应用空间和通道自注意力机制，同时引入自适应交互模块 (AIM) 和空间门控反馈网络 (SGFN) 实现了全局和块内特征聚合，实验证明 DAT 优于当前方法。

    Aug, 2023

  • 跨聚合 Transformer 用于图像恢复

    本篇论文提出了一种新的交叉聚合变压器（CAT）模型，并引入矩形窗口自注意力（Rwin-SA）与轴向移位操作来扩大注意力区域并跨多个窗口聚合特征，同时提出了本地补充模块来增强变压器的全局 - 局部耦合性能，实验结果表明，CAT 在多个图像修复应用中优于最新的若干方法。

    Nov, 2022

  • 多分辨率分析 (MRA) 用于近似自注意力

    利用 Multiresolution Analysis 中的 Wavelets 概念构建一种高效的自我关注模型，同时在短序列和长序列的 NLP 任务上均表现优异。

    Jul, 2022

  • 基于增强的 Swin Transformer 及本地 - 全局特征的交替聚合的图像超分辨重建网络

    本论文通过交替聚合局部全局特征，引入了位移卷积实现局部空间信息和通道信息的交互，并提出了块稀疏全局感知模块以进一步实现空间和通道信息的交互。同时，引入了多尺度自注意模块和低参数残差通道注意模块，实现了不同尺度上的信息聚合。在五个公开数据集上验证了提出的网络，在超分辨率方面超过了其他最先进的网络。

    Dec, 2023

  • 基于整体注意力网络的单幅图像超分辨率

    本研究旨在解决单张图像超分辨率任务中，通道注意力对不同图层之间相关性的忽视问题，为此，提出了一种新的整体注意力网络（HAN），其中包括层注意力模块（LAM）和通道 - 空间注意力模块（CSAM），它们旨在模拟层、通道、位置的整体依赖关系，以更好地保留信息丰富的特征，并通过广泛实验，取得了较好的效果。

    Aug, 2020

  • 基于混合卷积 - 变换器架构搜索的实时图像分割

    通过使用多头自注意力结构，结合架构搜索方法，本研究提出了一种高效且有效的高分辨率图像分割神经网络架构，名为 HyCTAS，通过在多个分辨率的分支之间融合轻量级卷积层和内存高效的自注意力层，提高了语义分割任务的性能。

    Mar, 2024