MMOct, 2015

关于 $f$- 散度的收缩系数之间的线性界限

PDF
TL;DR本文旨在通过驱动输入 $f$- 散度达到零来实现对 $f$- 散度的收缩系数下界以及建立起特定类别下的高效改进上界，并证明了一些重要结论。
data processing inequalities$f$-divergencescontraction coefficientskullback-leibler divergencegaussian noise channel
发现论文，激发创造
  • 私密量子通道压缩与私密量子假设测试

    量子广义差异、收缩系数、隐私约束下的样本复杂度、私密量子通道是本研究的主要关键词和研究领域。

    Jun, 2024

  • 输入受限信道中的信息耗散

    研究信息论中输入成本约束下的数据处理不等式，并提出一种量化信息耗散程度的 Dobrushin 曲线来评估噪声通道的耗散情况，并讨论了该理论在随机控制、噪声电路和噪声信道最大化的应用。

    May, 2014

  • 通道和贝叶斯网络的强数据处理不等式

    本文研究了数据处理不等式及其在信息论等领域中的应用，提出了一种针对贝叶斯网络的端到端强数据处理不等式构造方法，并探讨了基于线性强数据处理不等式而非耗散不等式的信息扩散方式。

    Aug, 2015

  • $f$- 散度不等式

    本文介绍了一些系统性的方法来获得在任意字母表上定义的概率测度对之间的 f - 差异不等式，其中包括函数占优方法、基于矩不等式和对数凸性属性的方法；在对相对信息性施加有界性假设的情况下，本文还阐述了各种界限，并特别关注了总变差距离及其与相对信息和相对熵的关系，包括 “reverse Pinsker 不等式”，以及广义化的总变差距离 Eγ 差异。

    Aug, 2015

  • 离散通道的强数据处理不等式和 $Φ$-Sobolev 不等式

    本文系统研究了离散通道中 SDPIs 的最优常数，包括它们的变分表征、上下界、产品概率空间上的通道结构结果以及 SDPIs 与所谓的 $\Phi$-Sobolev 不等式之间的关系，并讨论了对信息论、离散概率和统计物理的几个应用。

    Nov, 2014

  • 在 $f$- 散度和积分概率度量之间的最优界限

    该研究系统研究了从凸性对偶的角度出发将 $f$-divergences 和 Integral Probability Metrics 两个家族联系在一起的关系，派生出一种广义的矩生成函数并在此基础上得出了许多针对 $f$-divergences 的新的下限。此外，研究还证明了衍生出的这种下限的不同拓扑性质。

    Jun, 2020

  • 关于利用卡方和高阶卡方距离逼近 f - 散度

    给出了一种计算同一指数族统计分布之间 Chi 平方和高阶 Chi 距离的封闭式公式，并针对泊松分布和各向同性高斯分布进行了实例化。然后，我们描述了一种基于泰勒展开和依赖于扩展 Chi 类型距离的 $f$-divergences 的解析公式。

    Sep, 2013

  • 信息约束下的推断 I：卡方压缩的下限

    本文研究一个多个玩家协作下的信息收集与分析的协议，其中信息传输的通道对于推断过程和样本复杂度有着显著的影响，并通过引入卡方距离和其它量度以得出更为准确的样本复杂度下限。

    Dec, 2018

  • 优于 KL 的 PAC-Bayes 界

    本文研究了使用新颖且优于 KL 散度的 PAC-Bayes 边界，以及这种边界在估计均值时的集中不等式问题，对比了以往 KL 散度为基础的边界，并探讨了最佳 PAC-Bayes 边界速率的可能性。

    Feb, 2024

  • 通过 Rényi、$f$-Divergences 和最大泄漏实现的广义误差界限

    本文研究如何利用边缘分布和随机变量之间的依赖关系来估计概率事件的概率，并在自适应数据分析和学习理论中应用，其中包括 Sibson 的互信息、α- 散度、Hellinger 散度、f - 散度等多种方法，并将最大泄密量作为特例进行了研究。

    Dec, 2019