粗到细的稀疏变换器用于高光谱图像重建
本文提出 Mask-guided Spectral-wise Transformer (MST) 框架,通过 Spectral-wise Multi-head Self-Attention 和 Mask-guided Mechanism 的组合,可以有效解决 CNN-based 方法捕捉波谱相似性以及长距离依赖性上的局限性,而且能够充分利用 CASSI 系统中物理屏的信息对高保真度的 HSI 重建有提升作用。
Nov, 2021
研究了编码光阑快照光谱成像 (CASSI) 的反问题,该方法使用快照 2D 测量来捕获空间 - 光谱数据立方体,并使用算法重建 3D 高光谱图像 (HSI)。然而,基于卷积神经网络 (CNN) 的当前方法难以捕捉长程依赖和非局部相似性。最近流行的基于 Transformer 的方法由于自我注意力引起的高计算成本在下游任务中得不到充分应用。在本文中,我们首次将可变卷积网络 (DCN) 应用于这项任务,提出了粗 - 细粒度光谱感知可变卷积网络 (CFSDCN)。考虑到 HSI 的稀疏性,我们设计了一个变形卷积模块,利用其可变形性来捕捉长程依赖和非局部相似性。此外,我们提出了一个新的光谱信息交互模块,考虑到粗粒度和细粒度的光谱相似性。大量实验证明,我们的 CFSDCN 在模拟和真实 HSI 数据集上显著优于之前的最先进方法。
Jun, 2024
通过引入 SCC 作为注意力矩阵并利用 ESSA 技术,提出了 ESSAformer 网络用于超分辨率任务,提升了高光谱图像的视觉质量和定量结果。
Jul, 2023
通过使用基于 Transformer 的多阶段光谱智能变换器(MST++)及其包含的光谱注意块,该论文提出了一种新方法实现了显着优于其他最先进方法的重建结果,尤其适用于光谱重建挑战。
Apr, 2022
通过引入连续光谱增益过程,以及借鉴隐式神经表示的概念,该研究提出了一种名为 Spectral-wise Implicit Neural Representation (SINR) 的创新方法,用于高光谱图像的重建,实现可定制的光谱超分辨率和全局光谱依赖关系捕捉。实验证明,该方法优于基准方法,并将隐式神经表示引入到 Coded Aperture Snapshot Spectral Imaging(CASSI)领域。
Dec, 2023
我们提出了一种基于 3D 卷积引导的光谱 - 空间 Transformer(3D-ConvSST)的高光谱图像分类方法,该方法利用 3D 卷积引导的残差模块(CGRM)在编码器之间来 “融合” 局部空间和光谱信息以增强特征传递,并通过全局平均池化来提取更具有辨别力和相关性的高级特征进行分类。在三个公共高光谱图像数据集上进行了大量实验,证明了所提出模型相比传统的、卷积和 Transformer 模型的优越性。
Apr, 2024
本文介绍了一种新颖的方法:将 3D Swin Transformer 和 Spatial-spectral Transformer 的注意力机制进行融合,从而显著提高高光谱图像的分类性能。该方法不仅优化了空间和光谱信息的建模,还实现了更精确和准确的分类结果,通过在基准高光谱图像数据集上进行实验和评估,表明了融合方法的有效性,展示了其相对于传统方法和独立变换器的优越性。同时,采用独立的训练、验证和测试样本增强了所提出方法的鲁棒性和可靠性,并突出了其推动高光谱图像分类领域的潜力。
May, 2024
本文提出了一种新颖的基于深度学习和高斯混合先验的 Maximum a Posteriori (MAP) 估计框架的高光谱成像重建方法,该方法通过深度卷积神经网络 (DCNN) 学习尺度先验和局部均值参数,在合成和真实数据集上均取得了超过现有前沿方法的最佳结果。
Mar, 2021
提出了一种混合的空间 - 光谱去噪网络 (HSSD),该网络通过设计一个新颖的 CNN 和 Transformer 特性的混合双路径网络,以高效地捕获本地和非本地空间细节,同时抑制噪声,从而解决了现有 Transformer-based 方法主要关注非本地建模并忽视图像去噪中局部性的问题,并采用简单但有效的分离策略降低了计算复杂性,通过使用参数较少的多层感知机学习光谱之间的全局相关性。综合和实际实验表明,我们提出的方法在空间和光谱重建方面优于最先进的方法。
Jun, 2024