- 正向梯度匹配反向传播？
本研究提出了一种使用反馈获得的局部辅助网络实现前向梯度方法的优化方案，能够显著改善标准计算机视觉神经网络中前向梯度方法中由步长难以猜测所需付出的代价。
- 使用前向前向算法训练的网络中的紧急表示
本研究中，作者探讨了一种名为 Forward-Forward 的训练神经网络的方法，与传统的 Backpropagation 背向算法相比，它采用了本地学习规则。作者通过实验发现，使用 Forward-Forward 算法进行训练所得到的神 - 基于概率潜在表示的块局部学习
通过引入双网络的反向传播方法和将网络中的层激活视作概率分布的参数，本文提出了一种解决反向传播中锁死和权重传输问题的新方法，从而实现对大型网络的分布式高效训练。相应的实验结果表明了其在多种任务和结构上的优越表现。
- 关于量子反向传播、信息重用和非法的测量坍缩
研究表明，量子模型必须具备多个量子态副本的特征，才能像经典神经网络一样实现反向传播训练，并且引入了一种基于 “影子成像” 的算法，将经典辅助计算成本降至影子成像在开放问题中的范畴，为量子机器学习带来了新的挑战。
- 综合正向算法：将正向传递和浅层反向传播与局部损失相结合
该研究比较了反向传播算法、前向 - 前向算法和提出的一个整合算法，并在 MNIST 数据库上进行了分类任务的测试，结果表明，使用提出的整合算法可以生成具有强健性等优势特征的神经网络。
- 前向 - 前向算法中的层次协作
本研究探讨了前向传播算法中的层次协作，并提出了一种新的版本来支持层次协作，以更好地利用神经网络的结构，同时不需要任何额外的假设或计算。经验证明，所提出的版本对于同时考虑信息流和目标度量具有显著的效果，并且这种方法受到了函数熵理论的启发。
- 使用似然比方法进行神经网络训练：深入探讨无需反向传播的技术
本研究提出了一种新的梯度估计方法 —— 似然比方法，用于从事各种神经网络体系结构的训练，并且相对于反向传播法，该方法能够显著提高神经网络对抗性攻击的鲁棒性。
- 自动微分陷阱理解
本文介绍了自动微分（亦称反向传播、AD、算法微分）的应用，其误差分类有混沌、时间平均振荡、离散化、固定点循环、查询表和线性求解器。此外，本文也回顾了调试技术及其在这些情况下的效果，为用户提供避免异常行为、更轻易地检测问题并更加实际地运用 A - $\partial\mathbb {B}$ 网格：通过梯度下降学习离散函数
该研究介绍了一种利用梯度下降学习离散布尔值函数的可微分神经网络，该网络具有不可微分的硬网络和可微分的软网络，可以通过后向传播算法进行训练。在实验中，该网络展现了可比较的性能，同时由于使用了 1 比特权重的方式，紧凑并且具有解释性。
- 基于软件的自动微分存在缺陷
软件开发中采用面向对象编程实现链式规则以进行自动微分，但由于得到的表达式未经简化容易导致误差不可控。
- 使用延迟反馈的前馈优化神经网络
研究提出了一种名为 Feed-Forward with delayed Feedback (F$^3$) 的算法，它有效地解决了权重传输和更新锁定等核心问题，实现了生物合理性和计算效率，将生物合理性算法和反向传播算法之间的预测性能差距降低了 - 离散与反向传播之间的桥梁：Through-Straight 及其拓展
本文提出 ReinMax 方法，通过集成 Heun's Method 来解决离散潜变量生成参数的梯度近似问题，该方法在结构化输出预测和无监督生成建模任务中均获得了比现有技术更好的结果，包括 ST 和 ST Gumbel-Softmax。
- 预测编码作为神经形态学替代反向传播的关键评估
探讨预测编码 (PC) 算法是否能替代误差反向传播算法 (backpropagation)，研究发现当前 PC 算法的潜在能力受限于时间复杂度较大等问题。
- 惰性学习：一种受生物启发的可塑性规则，用于快速、高效的突触可塑性
本文介绍了一种受人类学习模式启发的方法：懒惰学习，通过只在分错的样本上进行学习，可实现一些分类任务的更高准确度，并且不需要超参数调整。
- RN-Net: 储水池节点启用的神经形态视觉感知网络
本文提出了一种基于简单卷积层的神经网络架构，结合低成本的动态时间编码水库节点，实现了异步时间特征的高效处理，并通过使用内部动态的自旋电阻器，在非常低的硬件成本下实现了异步时间特征编码。RN-Net 在 DVS128 手势数据集上取得了最高的 - 零和马尔可夫游戏中的可微分仲裁
本文研究如何扰动由两个玩家组成的零和马尔可夫博弈的奖励来诱导期望的纳什均衡。提出了一种反向传播方案，用于在给定奖励函数下求解纳什均衡，并通过黑盒求解器展示了框架的收敛性和在两种多智能体强化学习环境中的成功应用。
- 联邦学习是否真正需要反向传播？
BAFFLE 是一种无需在边缘设备上执行反向传播的联邦学习方法，可以提高存储和计算效率以及安全性。
- 端到端基于模型学习的折叠优化
该论文提供了对展开优化器反向传播的理论洞见，从而得到了一个系统，用于生成等效但可有效求解的分析模型，并提出了一种统一的展开和分析微分的方法。实验表明，该方法在各种结构预测和决策导向的学习任务中具有潜在的计算和增强表现能力。
- 前前算法：一些初步探索
介绍一种新的神经网络学习过程 —— 正向式算法，通过两次正向传递代替反向传播的前向和反向传递，并具有针对正数据具有高好度和负数据低好度的目标函数。
- Desire Backpropagation: 基于时序相关塑性的多层脉冲神经网络的轻量级训练算法
该论文介绍了一种名为 desire backpropagation 的方法，它利用 STDP 的权重更新，实现了全局误差最小化和分类准确率的提高；同时，该方法具有 STDP 的神经动力学和计算效率，是一种基于脉冲的监督学习规则。作者使用 d