swing transformer | BriefGPT

关键词swing transformer

搜索结果 - 5

MM基于可学习 CSI 融合掩码的鲁棒图像语义编码在 MIMO 多径衰落信道中
本文提出了一种可学习的 CSI 融合语义通信框架（LCFSC），通过将 CSI 作为辅助信息，引入 MIMO 通道状态信息，并在 Swin Transformer 中使用非侵入式 CSI 融合多头注意力模块，从而实现 CSI 感知的语义编码
PDFa month ago
CVPRMixMAE: 混合和掩蔽自编码器用于高效的分层视觉 Transformer 预训练
本文提出了一种名为 MixMAE 的方法，可以有效地预先训练不同的分层视觉转换器，并取代掩蔽图像建模（MIM）方法，仍然可以对受损图像进行建模，而不会导致训练速度慢和预处理 - 微调不一致性问题。实验结果表明，使用 MixMAE 进行预处理
PDF2 years ago
ECCVSeqFormer: 序列 Transformer 用于视频实例分割
本文介绍了 SeqFormer，一种基于视频实例分割的模型，通过注意力机制捕捉视频帧之间的关系，定位每帧的实例并聚合时间信息，从而实现自然的实例跟踪并预测动态遮罩序列，结合 Swin Transformer 可获得更高的 AP，是视频实例分
PDF3 years ago
Video Swin Transformer
本文介绍了一种针对视频领域的区域局部性 Transformer 架构，通过使用 Swin Transformer 设计来实现，同时利用预训练模型的威力，取得了行动识别和时间建模等广泛的视频识别基准的最新准确性。
PDF3 years ago
Swin-Unet: 纯 Transformer 风格的 Unet 模型用于医学图像分割
该研究提出了 Swin-Unet，一种基于 Transformer 的 Unet 用于医学图像分割，它通过层次 Swin Transformer 与 SHIFT 窗口技术来提取上下文特征，使得该纯 Transformer 的编码解码网络在多
PDF3 years ago