ICLRFeb, 2022

Entroformer：基于 Transformer 的熵模型学习图像压缩

PDF
TL;DR提出了一种新型的基于 Transformer 的熵模型（Entroformer），用于在图像压缩中有效地捕获远距离依赖，并通过并行双向上下文模型加速解码进程，实现了最先进的性能。
lossy deep image compressionentropy modeltransformer-basedlong-range dependenciesstate-of-the-art performance
发现论文，激发创造
  • 多环境双超先验神经图像压缩

    提出了基于 Transformer 的非线性变换和包含两个不同超先验的熵模型，通过有效地捕获输入图像的局部和全局信息以及利用远距关系提取长程信息，能够在速率 - 失真性能方面表现优于现有的方法。

    Sep, 2023

  • 联合全局和局部分层先验的学习图像压缩

    通过 attention 机制，我们提出了一种新的信息变换学习熵模型，能更好地处理图像压缩的全局和局部依赖关系，实验证明该模型取得了优于现有技术的率失真性能，并且没有二次计算复杂度问题。

    Dec, 2021

  • 深度图像压缩的条件概率模型

    本研究提出了一种基于 3D-CNN 的条件概率模型方法，用于直接建模图像自动编码器隐层表示的熵，从而控制重构误差和信息熵之间的平衡关系，该方法在 MS-SSIM 能力测试中表现优异，成为一种最新的图像压缩系统。

    Jan, 2018

  • Contextformer: 带有空间通道注意力进行上下文建模的 Transformer 在学习图像压缩中的应用

    提出了一种基于 transformers 的上下文模型 Contextformer，在学习压缩图像的过程中，该模型可以泛化到高维空间，并通过引入空间信道关注机制，从而进一步提高上下文相关性和适应性。与其他基于学习的模型相比，在 Kodak、CLIC2020 和 Tecnick 图像数据集上对比实验结果表明，提出的模型比其他方法实现更高的图像压缩效率，并取得了较高的 PSNR 和 MS-SSIM 分数。

    Mar, 2022

  • 使用全局参考学习精准熵模型进行图像压缩

    本研究提出了一种新的图像全局参考模型，能够有效利用局部和全局上下文信息，以提高深度图像压缩的性能表现，并且拥有最先进的速率 - 失真性能，同时还新创了一种平均偏移 GDN 模块。

    Oct, 2020

  • 基于图像的局部熵模型的学习图像压缩

    本文介绍了一种通过加入图像依赖的信息来提高基于人工神经网络的图像压缩方法的性能的方法，并在标准评估数据集上实现了 17.8％的速率降低和 70-98％的在视觉复杂性低的图像上的性能提升。

    May, 2018

  • GroupedMixer: 一种基于分组的令牌混合熵模型用于学习图像压缩

    提出了一种名为 GroupedMixer 的新型基于 Transformer 的熵模型，具有比以前的方法更快的编码速度和更好的压缩性能，并通过将潜在变量划分为组并使用提出的基于 Transformer 的熵模型对组进行熵编码来实现。实验结果表明，GroupedMixer 在快速压缩速度下具有最先进的失真率性能。

    May, 2024

  • 用于学习图像压缩的通道方向自回归熵模型

    本研究介绍了两种增强技术：通道调节和潜在残差预测，提出了比现有上下文自适应模型更好的网络架构，该模型在最小化串行处理、保持数据完整性等方面都性能更优，在 Kodak 和 Tecnick 图像集上的平均速率提高了 6.7% 和 11.4%。在低比特率下，本研究的模型可使速率提高 18%，比像 BPG 这样的手工工程编解码器提高 25%。

    Jul, 2020

  • 学习基于上下文的非局部熵建模用于图像压缩

    本文提出了基于全局相似性的非局部关注块来进行上下文建模，在熵编码中应用该方法，进而在联合速率失真优化中引导分析转换与合成转换网络的训练，并最终使用 U-Net 块增加转换的宽度，从而在 Kodak 和 Tecnick 数据集上实现了超越现有标准与最新深度图像压缩模型的低失真压缩。

    May, 2020

  • 面向端到端优化的自适应熵模型图像压缩

    本文提出了一种上下文自适应熵模型，用于端到端优化的图像压缩。该模型利用两种上下文，即消耗位上下文和无需消耗位上下文，可更准确地估计每个潜在表示的分布，并提高了压缩性能。实验结果表明，该方法在 PSNR 和 MS-SSIM 指标上优于传统图像编解码器，如 BPG 和 JPEG2000，以及其他以人工神经网络为基础的方法。

    Sep, 2018