本研究首次提出了一种统一的编码 - 解码训练方法，用于二进制线性分组码，采用了适应性编码设置，支持针对二阶伽罗瓦域的端到端优化。我们还提出了一种新颖的 Transformer 模型，其中的自注意力掩码采用可微分的方式进行，以实现对码梯度的有效反向传播。实验结果表明：(i) 所提出的解码器在常规编码上优于现有的神经解码器；(ii) 所提出的框架生成的编码优于相应的常规编码；(iii) 我们开发的编码不仅在我们的解码器上表现出色，而且在传统解码技术上也表现出更好的性能。

May, 2024

量子错误纠正是量子计算的一个关键挑战，本研究提出了一种基于 Transformer 的 QEC 解码器，它利用自注意力实现了全局感受野，结合了局部物理错误和全局奇偶标签损失的训练方法，以及其对不同码距的有效迁移学习能力，实现了较佳的逻辑错误率和节省 10 倍以上的训练成本。

Nov, 2023

在通信和存储系统中，纠错码（ECC）在确保数据可靠性方面至关重要。随着深度学习在不同领域的应用范围扩大，对基于神经网络的解码器的研究日益关注，这些解码器在性能上超越了传统的解码算法。在这些神经解码器中，纠错码变压器（ECCT）已经实现了最先进的性能，大幅度超越了其他方法。为了进一步提高 ECCT 的性能，我们提出了两种新的方法。首先，利用 ECC 的系统编码技术，我们引入了一种新的掩码矩阵，旨在提高性能并降低计算复杂度。其次，我们提出了一种名为双掩码 ECCT 的新型变压器架构。该架构以并行方式使用两个不同的掩码矩阵，以在掩码的自注意块中学习更多关于码字位之间关系的多样特征。大量的仿真结果表明，所提出的双掩码 ECCT 优于传统 ECCT，在性能上达到了最先进的解码性能，并取得了显著的优势。

Aug, 2023

本文介绍了一种利用问题对称性的、数据效率高的神经网络译码器来纠正量子计算中的错误，该译码器可以自适应噪声分布，能够与先前的神经网络译码器相比实现最先进的准确性。

Apr, 2023

本文提出了一种基于去噪扩散模型进行软解码的方法，通过引入迭代步骤、纠错编码和神经扩散解码器等创新性贡献，能够有效地实现 ECC，同时在单个反向扩散步骤下实现了优异的解码精度，较传统方法有很大提高。

Sep, 2022

本文提出了一种基于神经网络的交叉注意力消息传递变压器（CrossMPT）用于解码误差纠正码 (ECC)，并证明了与现有神经网络解码器相比，CrossMPT 在特别是解码低密度奇偶校验码方面具有显著的性能优势和计算复杂度降低。

May, 2024

我们提出了一种基于循环和 Transformer 的神经网络解码器，可以学习解码表面码（surface code），并在真实世界的数据中击败现有的算法解码器，在距离为 3 和 5 的表面码上优于 Google 的 Sycamore 量子处理器。在模拟数据上的实验显示，我们的解码器在包括串扰、泄漏和模拟读出信号等现实噪声的情况下，能够保持其优势，并且在训练过的 25 个循环之外依然能够保持准确性。我们的研究展示了机器学习通过直接学习数据的能力，凸显出机器学习在解码量子计算中作为一个强有力的竞争对手。

Oct, 2023

本文探讨使用深度神经网络进行一次解码的想法，特别是在随机和结构化码，如极化码方面的应用。通过实验我们发现，结构化码比随机码更易于学习，并且神经网络能够推广到它没有见过的结构化码中，这提供了神经网络可以学习解码算法的证据。我们引入了标准化验证误差（Normalized Validation Error，NVE）来进一步研究深度学习解码的潜力和限制。

Jan, 2017

本文提出了一种基于自编码器的非线性反馈编码设计，该编码极大地提高了信道噪声下的鲁棒性，我们证明了平均功率约束被渐进满足，实验结果表明，该编码方案在实际前移和反馈噪声情况下的性能优于现有的反馈编码。

Apr, 2023

本研究利用 Goldreich-Levin 算法、傅里叶系数等工具对 TurboAE 进行深度学习的纠错编码的训练过程进行解释及理解，得出了新的训练过程，为其他深度学习的码结构提供了启示。

May, 2023