May, 2024

GroupedMixer: 一种基于分组的令牌混合熵模型用于学习图像压缩

PDF
TL;DR提出了一种名为 GroupedMixer 的新型基于 Transformer 的熵模型，具有比以前的方法更快的编码速度和更好的压缩性能，并通过将潜在变量划分为组并使用提出的基于 Transformer 的熵模型对组进行熵编码来实现。实验结果表明，GroupedMixer 在快速压缩速度下具有最先进的失真率性能。
发现论文，激发创造
  • Entroformer：基于 Transformer 的熵模型学习图像压缩

    提出了一种新型的基于 Transformer 的熵模型（Entroformer），用于在图像压缩中有效地捕获远距离依赖，并通过并行双向上下文模型加速解码进程，实现了最先进的性能。

    Feb, 2022

  • 多环境双超先验神经图像压缩

    提出了基于 Transformer 的非线性变换和包含两个不同超先验的熵模型，通过有效地捕获输入图像的局部和全局信息以及利用远距关系提取长程信息，能够在速率 - 失真性能方面表现优于现有的方法。

    Sep, 2023

  • 多尺度和上下文自适应熵模型用于图像压缩

    本文提出了一种端到端可训练的图像压缩框架，采用自回归和分层先验的组合估计每个潜在表示的分布，并使用一种方法将比特率分配到每个图像以最大化 MS-SSIM。

    Oct, 2019

  • 基于因果关系的上下文预测学习图像压缩

    本文提出了一种基于序列解码过程的因果上下文熵预测的概念，以捕捉图像压缩的全局相关性和跨通道关系，同时，采用新的独立注意力模块构建更强的转换网络，实验结果表明，该系统在 Kodak 数据集上的表现优于标准 VVC/H.266 编解码器，达到了最先进的码率失真性能。

    Nov, 2020

  • 用于学习图像压缩的通道方向自回归熵模型

    本研究介绍了两种增强技术：通道调节和潜在残差预测，提出了比现有上下文自适应模型更好的网络架构，该模型在最小化串行处理、保持数据完整性等方面都性能更优，在 Kodak 和 Tecnick 图像集上的平均速率提高了 6.7% 和 11.4%。在低比特率下，本研究的模型可使速率提高 18%，比像 BPG 这样的手工工程编解码器提高 25%。

    Jul, 2020

  • 多视角三维重建的长程分组变换器

    基于 Transformer 的多视角三维重建算法中，引入长距离分组注意力机制（LGA）以处理来自不同视角的复杂图像令牌，从而提高模型学习效果，并通过进阶上采样解码器实现相对高分辨率的体素生成，实验结果验证了该方法在多视角重建中达到了 SOTA 准确性。

    Aug, 2023

  • 深度图像压缩的条件概率模型

    本研究提出了一种基于 3D-CNN 的条件概率模型方法，用于直接建模图像自动编码器隐层表示的熵，从而控制重构误差和信息熵之间的平衡关系，该方法在 MS-SSIM 能力测试中表现优异，成为一种最新的图像压缩系统。

    Jan, 2018

  • 维度混合器：深度神经网络中结构稀疏性的通用方法

    研究了多个神经架构之间的相似性和差异性，通过对耦合流与蝴蝶变换的研究，提出了非线性蝴蝶混合器，包括 Butterfly MLP 和 Butterfly Attention，证明了它们在处理不同维度的输入上的高效性和可扩展性。

    Nov, 2023

  • 动态基于核的自适应空间聚合方法用于学习图像压缩

    在本研究中，我们扩展了空间聚合能力并提出了一种动态内核的变换编码方法，使用自适应聚合产生内核偏移来捕获有效信息，同时引入了广义粗到细的熵模型和不对称的空间通道熵模型，实验结果表明我们的方法在三个基准测试中达到了优于最先进的基于学习的方法的速率失真性能。

    Aug, 2023

  • Contextformer: 带有空间通道注意力进行上下文建模的 Transformer 在学习图像压缩中的应用

    提出了一种基于 transformers 的上下文模型 Contextformer，在学习压缩图像的过程中，该模型可以泛化到高维空间，并通过引入空间信道关注机制，从而进一步提高上下文相关性和适应性。与其他基于学习的模型相比，在 Kodak、CLIC2020 和 Tecnick 图像数据集上对比实验结果表明，提出的模型比其他方法实现更高的图像压缩效率，并取得了较高的 PSNR 和 MS-SSIM 分数。

    Mar, 2022