深度神经网络中的逐层反馈对齐保持不变

Jun, 2023

深度神经网络中的逐层反馈对齐保持不变

Layer-Wise Feedback Alignment is Conserved in Deep Neural Networks

Zachary Robertson, Oluwasanmi Koyejo

TL;DR本文揭示了支持反馈对齐学习动力学的一组守恒定律，揭示了反馈对齐与梯度下降之间的有趣类比，挑战了这些学习算法根本不同的流行说法，并表明这些守恒定律阐明了 ReLU 网络中反馈矩阵的逐层对齐的充分条件，这将使得使用反馈对齐训练的两层线性网络收敛到最小化范数的解决方案。

Abstract

In the quest to enhance the efficiency and bio-plausibility of training deep neural networks, feedback alignment (FA), which replaces the backward pass weights with random matrices in the training process, has emerged as an alternative to traditional backpropagation. While the appeal o

feedback alignment deep neural network conservation laws implicit bias biologically plausible

发现论文，激发创造

具有增强目标信息的学习：反馈对齐的另一种理论

该研究提出了一种基于信息理论的新颖理论，解释了反馈对齐（Feedback Alignment）是如何通过将目标信息嵌入到神经网络中来学习有效表示，其表现与 BP 算法相比，且还考虑到了生物学方面的现象和理论，例如预测编码和表征漂移。

Apr, 2023

直接反馈对齐提供深度神经网络的学习

使用反馈定向方法进行神经网络训练的简单方法能够在卷积网络和深度网络中实现零训练误差，而不需要成对的权重，是迈向生物可行机器学习的一步。

Sep, 2016

深度卷积网络中的反馈对齐

研究深度人工神经网络中的反向传播学习算法与大脑神经元突触可塑性规律的类比，介绍了不依赖于对称前向和后向突触权重的算法，提出通过加强权重符号一致性的反馈对准法的修改，可以实现与反向传播法相当的性能。这些研究结果表明，促进前向和反馈权重对准的机制对于深度网络的学习是至关重要的。

Dec, 2018

不对称权重的深度学习

提出了 Product Feedback Alignment（PFA）算法，它在避免显式的权重对称的同时，几乎与反向传播（BP）算法相同，能够在深度卷积网络中实现可比较的性能，从而提供了对长期存在的权重对称问题的新解决方案，实现了更加符合生物合理性的深度卷积网络学习。

May, 2024

用于神经网络训练的随机反馈对齐算法：为什么能对齐？

本文研究反馈对准算法的梯度对准机制（gradient alignment），使用数学推理和模拟证明了梯度对准是该算法固定点的稳定性准则，但高度的梯度对准却不一定会导致良好的算法性能。

Jun, 2023

直接反馈对齐在现代深度学习任务和架构中的拓展

本文探讨了替代反向传播算法的方案，研究了直接反馈对神经视图合成、推荐系统、几何学习和自然语言处理的适用性，并发现该方案可以成功训练各种现代深度学习架构，其性能接近于微调的反向传播，支持在没有权重传输的情况下解决具有挑战性的任务。

Jun, 2020

脑样柔性视觉推理：通过利用反馈前馈对齐

通过反馈与前馈路径的关联对齐机制，提出了一种学习算法 Feedback-Feedforward Alignment (FFA)，通过共同优化分类和重建任务，使得反馈连接具有去噪、解决遮挡、幻觉和想象等视觉推理功能，并提供了比传统的反向传播方法更接近生物合理性的实现。这项研究为解释视觉皮层中反馈连接支持灵活视觉功能的机制提供了有前景的概念证明，也为感知现象下的视觉推理领域做出了贡献，对于开发更具生物启发的学习算法具有重要意义。

Oct, 2023

带有稀疏连接的直接反馈对于局部学习的应用

通过使用反馈对齐算法，提出了一种生物相似性算法来替代反向传播，用一个稀疏的反馈矩阵可以显著改进数据移动和计算的效率，与反向传播相比，可以实现数量级的改进，并且可以在某些方面获得硬件优势，同时还可以获得具有可比性的结果。

Jan, 2019

随机反向传播权重的梯度下降的收敛和对齐

该论文研究 “反馈对齐” 算法的数学特性，通过分析二层网络在平方误差损失下的收敛和对齐，证明在过度参数化的情况下，误差会以指数速度收敛，以及参数对齐需要正则化。该成果对我们理解生物学可行的算法如何不同于 Hebbian 学习方法，具有与非本地反向传播算法相当的性能提供了方法。

Jun, 2021

超越反向传播的尺度定律

使用缩放定律研究了 Direct Feedback Alignment（DFA）在训练因果解码器专用变压器的效率，在计算和数据需求方面没有超越反向传播，需要更多实证方法来更好地理解建模决策。

Oct, 2022