一种速率 - 失真 - 感知函数的编码定理
在大块长度的渐进极限中,我们研究了无记忆源模型的速率失真感知(RDP)权衡。我们的感知度量基于基于编码器输出条件下的源和重构序列的分布之间的离散,这最初是在 [1],[2] 中提出的。我们考虑编码器和解码器之间没有共享随机性的情况。对于离散无记忆源的情况,我们导出了 RDP 函数的单字母特性,从而解决了在 Blau 和 Michaeli [3] 中引入的边际度量问题(无共享随机性)。我们的实现方案基于在 [4] 中提出的带后验参考映射的有损源编码。对于在平方误差失真度量和平方二次 Wasserstein 感知度量下的连续值源的情况,我们还导出了单字母特性,并表明在解码器中添加噪声机制足以实现最佳表示。对于零感知损失的情况,我们证明了我们的特征与在 [5],[6] 中推导的边际度量结果有趣地相吻合,并再次证明了可以在最小失真中以 3 dB 的惩罚实现零感知损失。最后,我们将结果特化到高斯源的情况。我们导出了矢量高斯源的 RDP 函数并提出了一种水填充类型的解决方案。我们还部分表征了混合矢量高斯源的 RDP 函数。
Jan, 2024
本文研究了多元高斯源在均方误差畸变和分别为 Kullback-Leibler 散度、几何 Jensen-Shannon 散度、平方 Hellinger 距离和平方 Wasserstein-2 距离感知度量下的率失真感知函数(RDPF)的计算。
Nov, 2023
对有限公共随机性的输出约束有损源编码进行失真率函数分析,讨论了均方误差度量的特殊情况,当源和重建分布均为高斯分布时,得到了显式表达式。这进一步揭示了以 Kullback-Leibler 散度或平方二次 Wasserstein 距离作为感知度量的二次高斯码率 - 失真 - 感知编码的信息论极限的部分特征。
Mar, 2024
通过采用 Blau & Michaeli 2018 年提出的感知质量的数学定义,研究了速率、失真和感知之间的三重权衡,我们证明了该三重权衡的几个基本属性,并在一个玩具 MNIST 例子上进行了可视化说明。
Jan, 2019
通过一种新的算法,本文提出了第一个普遍数据源(不一定是离散数据)的 R-D 函数的夹逼界算法,并在多个数据源上估计了 R-D 夹逼界,说明了神经数据压缩的优越性,并发现了改进图像压缩方法的潜在空间。
Nov, 2021
研究了源编码率和概率与块长度的关系,推导出任意固定块长度下的紧致通用可达性和对话边界,对于具备可分离失真度的平稳无记忆源,最小可达速率接近于率失真函数加上速率分散。
Feb, 2011
基于 Wasserstein 梯度下降算法的新型 R-D 估计器,能够比现有神经网络方法更有效地在低速率源上获得可比或更严格的界限,同时需要较少的调整和计算工作。
Oct, 2023
研究了在输出同时受到均方差失真损失和感知损失的影响下进行因果、低延迟、连续视频压缩的方法,证明了 PLF 的选择会显著影响图像重建,特别是在低比特率情况下,在编码时委托 PLF 的选择给解码器会更加有效,结果使用信息论分析和深度学习验证。
May, 2023
本文引出自压缩领域和相关的理论问题,分析了通过实证数据来估计未知(并非必须是离散型的)信源的失真率 - 失真函数的问题。我们探讨了 “插件” 估计器的行为,给出了其一致性的充分条件,同时提供了某些情况下它失败的例子。针对一类广泛的信源,包括所有的平稳和符合渐进频率的信源,给出了 “插件” 估计器的一般一致性结果。最后,本文还提出了关于 “插件” 估计器的修正版本的一致性定理和最优重现分布估计的问题。
Feb, 2007
通过我们的速率 - 失真计算(RDC)研究,我们展示了虽然浮点运算(FLOPs)和运行时间对于准确地比较神经压缩方法都是不足够的,但我们还是找到了一种新型神经压缩架构,其在计算要求和 RD 性能之间具有最佳的实证权衡。
Sep, 2023