Mar, 2020

通过有向信息神经估计器计算具有记忆的连续信道容量

PDF
TL;DR利用神经分布转换器（NDT）模型对连续字母信道进行容量估计，从而推导出一种新的估计框架来逐步最大化目标函数中的分数，以便进行准确的估计。
channel capacityfeedback capacityneural distribution transformerdirected information ratecontinuous alphabet channels
发现论文，激发创造
  • 基于数据的容量上限估计

    提出一种基于数据驱动的算法，利用最小化通道输出上的参考分布来估算未知通道法和连续输出字母表上通道容量上界的估算方法，并使用修改的互信息神经估计器来计算所需的条件通道和参考分布之间的散度最大化，在不同的无记忆通道上进行数字评估，证明了该方法估算的上界要么接近通道容量，要么接近最佳已知下界。

    May, 2022

  • 面向离散字母的有向信息数据驱动优化

    本文提出了一种使用强化学习技术对离散输入空间中的定向信息进行估计和优化的框架，并将其应用于估计各种离散通道（包括前馈和反馈）的能力。

    Jan, 2023

  • 信道容量的高效逼近

    提出一种迭代计算分散无记忆信道容量的方法，包括对输入分布的附加约束；利用凸规划的对偶性，获得了容量的显式上下界。该方法的复杂度为 O（M ^ 2 N√（log N）/ε），其中 N 和 M 分别表示输入和输出字母表的大小；单次迭代的复杂度为 O（MN）。同时，针对有限连续输入和可数输出字母表的无记忆信道提出了近似计算容量的方法，在一些关于信道尾部的渐变速率的温和假设下可以实现（离散时间泊松信道属于该问题类），并给出了其在峰值功率输入约束下的上下界估计路段作为案例研究

    Jul, 2014

  • 神经容量估计器：它们的可靠性如何？

    本研究对目前文献提出的神经互信息估计器如 MINE、SMILE、DINE 进行了对比评估，以探讨它们在容量估计方面的表现和应用效果。

    Nov, 2021

  • 带反馈的信道容量

    本文提出了一种用于处理具有记忆和反馈的通道的一般框架，包括使用广义 Massey 概念和动态规划框架计算不同类型的通道的容量，以及描述简单足够统计的场景。

    Sep, 2006

  • 离散时间、幅度受限、加性白高斯噪声信道的容量界限

    本研究报道了离散时间加性高斯白噪声通道输入分布的容量实现，研究使用对偶容量表达式导出了标量和矢量 AWGN 通道的解析容量上限。

    Nov, 2015

  • 量子信道容量的高效逼近

    本文提出基于凸规划对离散输入字母和有限维输出的经典量子通道容量的迭代估算方法，得到 Holevo 容量的近似值，并且可将其扩展到有界连续输入和有限维输出的通道。

    Jul, 2014

  • 无记忆多路访问信道容量区域的神经计算

    本文提供了一个数值框架，用于计算具有连续字母表的无记忆多路访问通道（MAC）的可达速率区域。该方法使用了神经网络参数化的一组函数来计算 MAC 的速率区域边界，并使用 KL 散度的变分下限和上限来实现计算。该方法提供比 MINE 估计器更紧的估计，并且在大信噪比下计算量更小。最终，我们将该方法应用于光强 MAC，并获得比现有工作更紧的可达速率边界。

    May, 2021

  • 基于神经互信息估计的信道编码深度学习

    提出了一种利用神经估计器来优化编码器从而实现最大化互信息的新方法，该方法仅依赖于信道样本，可以达到与具有完美信道模型知识的最新端到端学习相同的性能。

    Mar, 2019

  • 语义通信的基本限制：速率失真的神经估计

    该研究探讨了离散无记忆信道上语义通信的基本限制，采用语义速率失真函数分析最小压缩率、观测失真、语义失真和信道容量之间的关系。对于未知语义源分布的情况，提出了一种基于神经网络的方法来学习语义源分布，同时设计了级联神经网络来估计语义速率失真函数。对于已知完美语义源分布的情况，提出了通用的 Blahut-Arimoto 算法来高效计算语义速率失真函数。最后，通过实验证实了该算法在理想高斯语义源和一些实际数据集的情况下的有效性。

    Jan, 2024