ECCVMar, 2022

Contextformer: 带有空间通道注意力进行上下文建模的 Transformer 在学习图像压缩中的应用

PDF
TL;DR提出了一种基于 transformers 的上下文模型 Contextformer，在学习压缩图像的过程中，该模型可以泛化到高维空间，并通过引入空间信道关注机制，从而进一步提高上下文相关性和适应性。与其他基于学习的模型相比，在 Kodak、CLIC2020 和 Tecnick 图像数据集上对比实验结果表明，提出的模型比其他方法实现更高的图像压缩效率，并取得了较高的 PSNR 和 MS-SSIM 分数。
发现论文，激发创造
  • 高效的 Contextformer：基于空间 - 通道窗口注意力的快速上下文模拟用于学习图像压缩

    本文中，我们介绍了一种利用 Efficient Contextformer 对有损图像压缩中的上下文建模的方法，使其在模型复杂度、解码速度和码率失真性能上有所改进。

    Jun, 2023

  • 多环境双超先验神经图像压缩

    提出了基于 Transformer 的非线性变换和包含两个不同超先验的熵模型，通过有效地捕获输入图像的局部和全局信息以及利用远距关系提取长程信息，能够在速率 - 失真性能方面表现优于现有的方法。

    Sep, 2023

  • 深度图像压缩中的跨通道上下文模型

    本文提出了一种交叉通道上下文模型，用于在深度图像压缩中的潜在变量。与传统的 2D mask 卷积只能捕捉空间上下文不同，在局部上下文中，加入交叉通道上下文可以更好地留存邻近通道的信息。

    Mar, 2021

  • Entroformer：基于 Transformer 的熵模型学习图像压缩

    提出了一种新型的基于 Transformer 的熵模型（Entroformer），用于在图像压缩中有效地捕获远距离依赖，并通过并行双向上下文模型加速解码进程，实现了最先进的性能。

    Feb, 2022

  • 高效的学习图片压缩的 Corner-to-Center 长距离上下文模型

    在学习图像压缩框架中，上下文模型在捕捉潜在表示之间的依赖关系方面起到关键作用。为了减少串行自回归上下文模型导致的解码时间，提出了并行上下文模型作为一种替代方法，在解码阶段只需要两个传递，从而方便实现真实场景中的高效图像压缩。然而，由于其不完整的因果上下文，会导致性能下降。针对这个问题，我们对现有的并行上下文模型中观察到的性能下降进行了深入分析，着重从信息的数量和质量两个方面进行研究。基于此分析，我们提出了基于角到中心的变压器上下文模型 (C^3M)，旨在增强上下文和潜在预测，并提高速率 - 失真性能。具体来说，我们利用基于对数的预测顺序，逐步从角到中心预测更多的上下文特征。此外，为了扩大分析和合成变换中的感受野，我们在编码器 / 解码器中使用了长程交叉注意力模块 (LCAM)，通过在不同通道中分配不同的窗口形状来捕捉远程语义信息。广泛的实验评估表明，所提出的方法是有效的，并且优于最先进的并行方法。最后，根据主观分析，我们建议在基于变压器的图像压缩中改进细节表示是一个值得探索的方向。

    Nov, 2023

  • 基于因果关系的上下文预测学习图像压缩

    本文提出了一种基于序列解码过程的因果上下文熵预测的概念，以捕捉图像压缩的全局相关性和跨通道关系，同时，采用新的独立注意力模块构建更强的转换网络，实验结果表明，该系统在 Kodak 数据集上的表现优于标准 VVC/H.266 编解码器，达到了最先进的码率失真性能。

    Nov, 2020

  • 内上下文格式：大型语言模型的快速压缩上下文

    通过使用 In-Context Former 方法，我们成功减少了基于 Transformer 的大型语言模型的压缩成本，并使得实时压缩的场景成为可能。

    Jun, 2024

  • 用于学习图像压缩的通道方向自回归熵模型

    本研究介绍了两种增强技术：通道调节和潜在残差预测，提出了比现有上下文自适应模型更好的网络架构，该模型在最小化串行处理、保持数据完整性等方面都性能更优，在 Kodak 和 Tecnick 图像集上的平均速率提高了 6.7% 和 11.4%。在低比特率下，本研究的模型可使速率提高 18%，比像 BPG 这样的手工工程编解码器提高 25%。

    Jul, 2020

  • 上下文与几何感知的体素变换器用于语义场景补全

    本文介绍了一种基于视觉的语义场景补全方法，通过稀疏到稠密的转换和上下文与几何感知，使用 CGFormer 神经网络结构在不同尺度上提高了语义和几何表示能力，取得了在两个基准数据集上的最优性能。

    May, 2024

  • 针对 Conformer 转录器语音识别系统的有效紧凑上下文表示

    本文提出了一种能够学习到跨话语上下文特征的紧凑的低维度的特征表示方法，并通过在先前话语的历史向量上应用特殊设计的注意力池化层，来优化了基于 Conformer-Transducer 编码器的 ASR 系统，在 1000 小时的 Gigaspeech 语音语料上进行了实验，结果表明相对于仅使用话语内部语境的基线模型，该系统达到了 0.7% 至 0.5% 的绝对词错误率的统计显着降低（相对降低了 4.3% 至 3.1%） 的效果。

    Jun, 2023