本研究中，我们分析了一种叫做目标传播（TP）的替代反向传播（BP）的方法，从数学优化的角度进行了研究，并发现了它的基本限制。我们提出了一个创新性的重构损失来改善反馈权重训练，并通过允许直接反馈连接从输出到每个隐藏层来引入架构灵活性。实验结果表明，与差分目标传播（DTP）相比，性能得到了显著提高，并且前向权重更新与损失梯度的对准得到了改善。

Jun, 2020

在这篇论文中，我们通过消除 Forward-Forward Continuous Learning (FFCL) 的最后两个阶段和完全去除常规的反向传播，而仅仅依靠本地更新来解决常规反向传播在生物大脑中的局限性，从而提出了一种更具生物可行性的学习方法。

May, 2024

本研究提出了一种新的即时参数更新方法，通过消除每层计算梯度的需要来加速学习、避免梯度消失问题，并在基准数据集上优于最先进的方法，为高效有效的深度神经网络训练提供了一个有希望的方向。

Aug, 2023

该论文探讨了反向传播算法的生物学可信度以及提出了一种基于平衡传导法、解决了双向信号问题和对称连接问题的前向和后向连接的学习方法。

Aug, 2018

本文探讨了人工智能中最重要的两个算法：反向传播 (backpropagation) 和置信传播 (belief propagation)，并发现了置信传播是反向传播的一种推广形式，这是一项理论贡献，对于工程研究人员改善使用其中一个算法的系统的行为可能会有一定指导作用。

Oct, 2022

提出了一种新的算法 ProxProp，它通过隐式步骤而不是显式步骤更新神经网络训练期间的网络参数，该算法从后向传播算法的一般观点出发设计，将预测误差的反向传播与序列梯度下降步骤等效对应到二次惩罚能量上，具有下降方向的参数空间和与常见的一阶优化器 Adam 等相结合的优点。

Jun, 2017

介绍 Equilibrium Propagation - 一种学习能量模型的框架，该模型仅涉及一种神经计算，并在两个阶段中执行，通过 Local perturbations，使预测从一个配置微调到减少预测误差的配置，并且在第二阶段向后传播的信号编码错误导数的梯度。

Feb, 2016

提出了 Activation Relaxation (AR) 算法，利用构建反向传播梯度的动力系统平衡点实现只利用局部信号的反向传播，可以在任意计算图上收敛，能在视觉分类任务上训练深度神经网络并且进行神经生物学实现的简化。

Sep, 2020

基于正向传播方法和代数几何中的双重数概念，提出了一种在 CPU 上与 GPU 上的 CUDA 加速相比都快速的轻量级学习算法

Aug, 2023

本文提出了一种利用遗传算法优化深度卷积神经网络结构和连接权重初始化的图像分类算法，该算法利用一个高效的可变长度基因编码策略和新的表示方案初始化深度卷积神经网络的连接权重，并提出了一种新的适应度评估方法，实现了在少量计算资源下的快速启发式搜索，与其他 22 个现有算法相比在九个广泛应用于图像分类的任务中表现明显优越。

Oct, 2017