高斯速率 - 失真 - 感知函数的计算
在大块长度的渐进极限中,我们研究了无记忆源模型的速率失真感知(RDP)权衡。我们的感知度量基于基于编码器输出条件下的源和重构序列的分布之间的离散,这最初是在 [1],[2] 中提出的。我们考虑编码器和解码器之间没有共享随机性的情况。对于离散无记忆源的情况,我们导出了 RDP 函数的单字母特性,从而解决了在 Blau 和 Michaeli [3] 中引入的边际度量问题(无共享随机性)。我们的实现方案基于在 [4] 中提出的带后验参考映射的有损源编码。对于在平方误差失真度量和平方二次 Wasserstein 感知度量下的连续值源的情况,我们还导出了单字母特性,并表明在解码器中添加噪声机制足以实现最佳表示。对于零感知损失的情况,我们证明了我们的特征与在 [5],[6] 中推导的边际度量结果有趣地相吻合,并再次证明了可以在最小失真中以 3 dB 的惩罚实现零感知损失。最后,我们将结果特化到高斯源的情况。我们导出了矢量高斯源的 RDP 函数并提出了一种水填充类型的解决方案。我们还部分表征了混合矢量高斯源的 RDP 函数。
Jan, 2024
本文研究估计器的感知 - 失真权衡问题,导出了均方误差失真和 Wasserstein-2 感知指数下的失真 - 感知(DP) 函数的闭式表达式,证明了不论潜在分布如何,DP 函数总是二次的。我们还表明,这些估计器可以从感知质量卓越的 MSE 最小化器和感知质量优良的 MSE 最小化器两个极端处的估计器构建而来。
Jul, 2021
对有限公共随机性的输出约束有损源编码进行失真率函数分析,讨论了均方误差度量的特殊情况,当源和重建分布均为高斯分布时,得到了显式表达式。这进一步揭示了以 Kullback-Leibler 散度或平方二次 Wasserstein 距离作为感知度量的二次高斯码率 - 失真 - 感知编码的信息论极限的部分特征。
Mar, 2024
基于 Wasserstein 梯度下降算法的新型 R-D 估计器,能够比现有神经网络方法更有效地在低速率源上获得可比或更严格的界限,同时需要较少的调整和计算工作。
Oct, 2023
研究了在输出同时受到均方差失真损失和感知损失的影响下进行因果、低延迟、连续视频压缩的方法,证明了 PLF 的选择会显著影响图像重建,特别是在低比特率情况下,在编码时委托 PLF 的选择给解码器会更加有效,结果使用信息论分析和深度学习验证。
May, 2023
该研究提出了一种基于速率失真理论的选择具有任务导向的多级分类数据样本的新方法,称为 RD-DPP,可用于评估数据样本的情境感知多样性。此外,该研究观察到了基于确定性点过程的数据选择在样本累积过程中存在相变现象,从而设计出一种双峰方法以获得更大的多样性收益。
Apr, 2023
本文引出自压缩领域和相关的理论问题,分析了通过实证数据来估计未知(并非必须是离散型的)信源的失真率 - 失真函数的问题。我们探讨了 “插件” 估计器的行为,给出了其一致性的充分条件,同时提供了某些情况下它失败的例子。针对一类广泛的信源,包括所有的平稳和符合渐进频率的信源,给出了 “插件” 估计器的一般一致性结果。最后,本文还提出了关于 “插件” 估计器的修正版本的一致性定理和最优重现分布估计的问题。
Feb, 2007
本文提出了一个信息理论框架,用于评估在参数化贝叶斯设置下训练分类器所需的标记样本数量,并使用 $L_p$ 距离导出分类器和真实后验概率分类器之间的平均距离的上下界,并利用 $ L_p $ 丢失作为畸变度量,以后验分布的微分熵和插值维度的数量为最大先验分类器提供了下界和上界,这表征了参数分布族的复杂性,同时提供了计算贝叶斯 $L_p$ 风险的下界,是可能近似正确(PAC)框架的补充,该框架提供了涉及 Vapnik-Chervonenkis 维度或 Rademacher 复杂性的最小极大风险界,而所提出的速率 - 失真框架则为数据分布平均的风险提供了下界。
May, 2016