Nov, 2018

神经联合信源信道编码

PDF
TL;DR本文提出了一种用于编解码的离散自编码器模型，通过添加噪声来模拟信道以实现数据压缩和容错，得到了与现有方案相当的编码标准，并学习了下游任务（如分类）的有用鲁棒表征。最后，通过推理摊销，实现了一个快速的神经解码器，与迭代置信传播方法相比，速度提高了近一个数量级。
information theorycodec designautoencoderamortized inferenceneural decoding
发现论文，激发创造
  • 文本联合源通信深度学习

    本文考虑了在噪声信道上传输结构化数据（例如自然语言）的联合源编码和信道编码问题，提出了基于深度学习编码器和解码器以及将句子嵌入语义空间后进行联合编码的方法，旨在同时最小化端到端失真和字错误率。

    Feb, 2018

  • 通过对抗位翻转的 Infomax 神经联合源信道编码

    本文旨在提高 NECST 编码网络的稳定性和鲁棒性，通过正交最大化和敌对训练等方法，我们提出了一种称为 Infomax Adversarial-Bit-Flip（IABF）的正则化方法，能够显著提高编码和纠错的性能。

    Apr, 2020

  • 神经噪声信道

    本文利用循环神经网络来参数化源模型和信道模型，将序列到序列的转移问题表述为噪声信道译码问题。实验结果表明，相较于直接模型，噪声信道模型在抽象句子摘要、形态学拐点和机器翻译方面表现更佳，并且可以从未配对的输出数据中获得显著的收益。

    Nov, 2016

  • 音源分离基于潜在变分分块解缠

    混合经典数字信号处理 / 深度神经网络的方法用于源分离任务，通过设计合理的潜在空间，将单通道欠定的源分离问题转化为等效的多通道过定的问题，并使用变分块间分离表征混合信号，通过经典信号处理理论结果的启发，提出可靠性更强、过拟合风险降低的模型。

    Feb, 2024

  • 有损联合源信道编码在有限块长制度下

    本文发现了最佳可达失真联合源信道码率的新的严格有限块长度界限，并证明联合源信道码设计在非渐近区域中带来了相当大的性能优势。

    Sep, 2012

  • 使用深度学习设计通信系统：变分推断视角

    提出了一种基于深度学习和变分推断的框架，用于设计具有噪声传输符号的端到端通信系统，同时系统性地集成了通道类型等领域知识，在多个流行通道模型中击败了以前利用深度学习模型的先前工作，实现更好的打包密度和更快的速度。

    Apr, 2019

  • Turbo Autoencoder：基于深度学习的点对点通信信道编码

    本文介绍了一种新型神经编码器和解码器 TurboAE，该编码器可以通过深度学习来自动化设计通道编码，以提高非规范通道模型的可靠性，并在中等块长度下接近规范通道模型的最新性能水平。

    Nov, 2019

  • 使用变分自编码器进行无监督线性和非线性信道均衡和译码

    介绍了一种利用变分推断和变分自编码器进行盲通道均衡和解码的新方法，可有效提高插值散在信道和低密度奇偶校验编码传输中误码率的问题。

    May, 2019

  • 通过格状联合源信道编码的联邦学习

    该论文介绍了一种通用的联邦学习框架，通过数字通信实现空中计算，使用了一种新的联合源通道编码方案。该方案不依赖于设备的信道状态信息，采用晶格码来对模型参数进行量化，并利用设备的干扰。服务器上设计了一种新颖的两层接收器结构，可可靠地解码量化的模型参数的整数组合作为晶格点进行聚合。数值实验验证了该方案的有效性。即使在信道条件和设备异质性带来的挑战下，该方案显著超越了其他空中联邦学习策略。

    Mar, 2024

  • 基于神经互信息估计的信道编码深度学习

    提出了一种利用神经估计器来优化编码器从而实现最大化互信息的新方法，该方法仅依赖于信道样本，可以达到与具有完美信道模型知识的最新端到端学习相同的性能。

    Mar, 2019