Jun, 2024

编码分布的学习压缩

PDF
TL;DR提出一种动态适应编码分布以匹配特定输入中的潜在数据分布的方法，通过估计更好的编码分布，并将其作为附加的辅助信息比特流进行压缩和传输，而后解码器使用该编码分布来解压对应的潜在数据。该方法在标准全分解架构上能够获得 - 7.10% 的 Bjøntegaard-Delta (BD)-rate 增益，并且在计算复杂性方面，与相关的辅助信息方法（如尺度超先验）相比，我们方法使用的变换在乘加（MAC）操作方面具有数量级上的更低成本。
entropy bottlenecklatent data distributioncompressionencoding distributionamortization gap
发现论文，激发创造
  • 用于学习图像压缩的通道方向自回归熵模型

    本研究介绍了两种增强技术：通道调节和潜在残差预测，提出了比现有上下文自适应模型更好的网络架构，该模型在最小化串行处理、保持数据完整性等方面都性能更优，在 Kodak 和 Tecnick 图像集上的平均速率提高了 6.7% 和 11.4%。在低比特率下，本研究的模型可使速率提高 18%，比像 BPG 这样的手工工程编解码器提高 25%。

    Jul, 2020

  • 离散和高斯源的分布式信息瓶颈方法

    研究多个编码器分别以某种方式压缩其观察结果的分布式信息瓶颈问题，建立单字母表征信息率区间的模型，并针对离散无记忆源和无记忆向量高斯源，提出 Blahut-Arimoto 类型的迭代算法，通过迭代一组自洽方程来计算最优的信息率与复杂度之间的权衡。

    Sep, 2017

  • 过拟合之乐：实例自适应数据压缩

    本文介绍一种基于自动编码器和潜变量表示的神经压缩方法，并探讨了在训练后适应单个视频、发送模型更新以及重新调整参数等方面的改进措施。结果表明，相较于仅调整编码器的方式，对整个模型进行调整可以提高图像在视频中的压缩性能约 1 dB。

    Jan, 2021

  • 神经编解码器中基于拉普拉斯的熵模型与模糊扩散合成

    我们提出了一种使用非各向同性扩散模型的图像压缩框架，该模型在解码器端引入了一种感知偏差，以生成高质量图像。此外，我们还使用了一种新颖的熵模型来准确建模潜在表示的概率分布，并利用潜在空间中的空间通道相关性来加速熵解码。实验证明，我们的框架在感知质量上优于现有的生成模型编解码器，并且所提出的熵模型能够实现显著的比特率节省。

    Mar, 2024

  • 利用深度生成模型进行保持分布的有损压缩

    本文提出并研究了分布保持有损压缩问题，旨在优化速率失真间的平衡，使重建样本符合训练数据的分布，并通过采用 Wasserstein GAN 和 Wasserstein 自编码器的组合等方法，进行了理论和实证分析。

    May, 2018

  • 灵活神经图像压缩的稳健过拟合潜在特征

    神经图像压缩可以通过使用变分自动编码器和随机 Gumbel 退火来优化编码器和解码器容量，从而提高压缩性能。

    Jan, 2024

  • 通过条件扩散解码器增强学习图像编解码器的速率失真感知灵活性

    通过使用条件扩散模型，本文展示了它作为解码器时在生成式压缩任务中的良好结果，同时通过采样方法，它们还允许在解码器端基于压缩表示创建新的失真和感知之间的权衡点。

    Mar, 2024

  • 通过码率失真自编码器实现视频压缩

    本文提出了一种基于深度生成模型的视频压缩方法，采用三维自编码器和自回归先验以最小化速率失真损失，实现编码效果优于现有的基于运动补偿或插值的视频压缩网络，并且在设计选择和压缩技术方面进行了系统评估和扩展，包括语义压缩、自适应压缩和多模态压缩，以便在非标准成像传感器捕获的多个模态数据上实现联合压缩。

    Aug, 2019

  • 无与伦比的跨平台视频编解码器：基于码本的方法

    在交叉平台的视频压缩中，提出了一个基于码本的视频压缩框架，避免了自回归熵建模，并通过传输码本的索引序列来实现视频压缩，在不包含任何分布估计模块的情况下，兼顾了计算效率和跨平台性能。

    Oct, 2023

  • 变分贝叶斯量化

    我们提出了一种新颖的算法来量化训练模型中的连续潜在表达式，该算法适用于深度概率模型，可以实现数据和模型压缩，并且可以基于后验不确定性使用自适应量化精度来实现可变的码率失真折衷，实验证明了所提出的算法的有效性。

    Feb, 2020