学习图像去雨变换网络 with 动态双自注意力

Aug, 2023

学习图像去雨变换网络 with 动态双自注意力

Learning Image Deraining Transformer Network with Dynamic Dual Self-Attention

Zhentao Fan, Hongming Chen, Yufeng Li

TL;DR该论文提出了一种基于 Transformer 的图像去雨算法，结合了密集和稀疏自注意力机制，通过选择最有用的相似性值和空间增强的前馈网络来提高去雨效果。实验证明了该方法的有效性。

Abstract

Recently, transformer-based architecture has been introduced into single image deraining task due to its advantage in modeling non-local information. However, existing approaches tend to integrate global features based on a dense self-attention strategy since it tend to uses all simila

transformer-based architecture single image deraining dynamic dual self-attention sparse attention image reconstruction

发现论文，激发创造

学习稀疏 Transformer 网络以有效降雨图像

本论文提出了一种名为 Sparse Transformer (DRSformer) 的去雨神经网络，它可以自适应地保留最有用的自注意力值以更好地促进高质量图像重建，并发展了一种有效的混合尺度前馈网络来为图像去雨生成更好的特征。

Mar, 2023

基于空域频域相互作用的双通路耦合图像去雨网络

我们开发了一种创新的双路径耦合去雨网络（DPCNet），通过空间特征提取块（SFEBlock）和频率特征提取块（FFEBlock）在空间和频率域中整合信息，并引入了一种有效的自适应融合模块（AFM）来进行双通路径特征聚合。该方法在六个公共去雨基准和下游视觉任务上进行了大量实验证明，不仅超越了现有的最先进去雨方法，而且在下游视觉任务中具有出色的鲁棒性和视觉效果。

Feb, 2024

图像超分辨率的双聚合变换器

基于 Transformer 的双聚合模型 (Dual Aggregation Transformer, DAT) 用于图像超分辨率任务中，通过在连续的 Transformer 块中交替应用空间和通道自注意力机制，同时引入自适应交互模块 (AIM) 和空间门控反馈网络 (SGFN) 实现了全局和块内特征聚合，实验证明 DAT 优于当前方法。

Aug, 2023

基于自注意力的自适应变形网络用于图像增强

我们提出了一种新的基于降噪感知自注意的 Transformer 模型，将 CNN 和 Transformer 组件结合到超分辨网络中，实现了在盲超分辨率方面的最先进性能。

Oct, 2023

注意力可收缩变换器用于精确图像恢复

本文提出了 Attention Retractable Transformer (ART) 用于图像修复任务，通过在网络中使用稠密和稀疏注意力模块，实现更广泛的接受域并提高了 Transformer 的表征能力。大量实验结果验证了该方法在各种基准数据集上的优越性。

Oct, 2022

DA-TransUNet：利用 Transformer U-Net 集成空间和通道双重注意力进行医学图像分割

本研究提出了一种名为 DA-TransUNet 的新型深度医学图像分割框架，将 Transformer 和双注意力块引入传统 U 形架构的编码器和解码器中，通过注意力机制和多方面特征提取来增强医学图像分割，并通过实验结果证明 DA-TransUNet 在各个医学图像分割基准测试中显著优于现有方法。

Oct, 2023

DynaST：用于范例引导图像生成的动态稀疏转换器

通过引入动态稀疏注意力机制的 Transformer 模型，本文提出了一种对样本指导图像生成进行 fine-level 匹配的方法，旨在提升匹配效果与计算效率。该方法在有监督和无监督场景下均可生成视觉上令人满意的图像，并在人物姿势生成、人脸细节合成和图像样式迁移等应用上表现出了显著的优越性。

Jul, 2022

双视觉变压器

本文提出了名为 Dual Vision Transformer (Dual-ViT) 的新型 Transformer 结构，在保持准确度的前提下，通过综合运用语义路径和像素路径，将全局语义压缩成更高效的先验信息，进而实现了减少计算复杂度的目的，并在实验中表现出比 SOTA Transformer 结构更高的准确度。

Jul, 2022

基于距离的自注意力网络用于自然语言推理

本研究提出了一种基于距离的自注意力网络模型，利用简单的距离掩码考虑单词之间的距离，以便在不失去全局信息依赖的情况下建立本地依赖关系，并在 NLI 数据方面表现出良好的性能，同时长文档也有优势；而之前的基于注意力机制的模型，则没有考虑到单词之间的距离。

Dec, 2017

多元时间序列的双注意力网络分类

利用双重关注 (dual attention) 的方法，我们在本研究中探索了一种新型网络 (DA-Net)，用于提取多元时间序列分类的局部和全局特征。DA-Net 由 Squeeze-Excitation Window Attention (SEWA) 层和 Sparse Self-Attention within Windows (SSAW) 层组成，可以提取必要的局部序列片段，并建立基于这两个扩展层的全局长距离依赖关系。

Aug, 2023