Oct, 2022

超越反向传播的尺度定律

PDF
TL;DR使用缩放定律研究了 Direct Feedback Alignment（DFA）在训练因果解码器专用变压器的效率，在计算和数据需求方面没有超越反向传播，需要更多实证方法来更好地理解建模决策。
backpropagationneural networksdirect feedback alignmentscaling lawscausal decoder-only transformers
发现论文，激发创造
  • 直接反馈对齐在现代深度学习任务和架构中的拓展

    本文探讨了替代反向传播算法的方案，研究了直接反馈对神经视图合成、推荐系统、几何学习和自然语言处理的适用性，并发现该方案可以成功训练各种现代深度学习架构，其性能接近于微调的反向传播，支持在没有权重传输的情况下解决具有挑战性的任务。

    Jun, 2020

  • 使用直接反馈对齐进行高效的卷积神经网络训练

    本文提出了结合 BP 算法的 BDFA 算法，同时提出了反馈权重初始化方法和模式分析技术来维持训练稳定性和最小化计算成本。 实验结果表明，该方法在小数据集环境下表现优异。

    Jan, 2019

  • 显微镜下的比例定律：从小尺度实验预测变形器的性能

    本文通过对自然语言处理任务的实证研究，发现神经比例定律不仅仅用于模型性能的预测，还可用于模型加速开发、优化模型选型以及模型的收敛调试等方面。

    Feb, 2022

  • DFA-GNN: 直接反馈对齐的图神经网络的前向学习

    通过引入 DFA-GNN 方法以及伪误差生成器，本文提出了一种用于图神经网络的前向学习框架，通过优化网络的反馈链接，克服了 BP 算法的限制，并在半监督学习任务中展现了非常优异的鲁棒性。

    Jun, 2024

  • 神经缩放法则的动力学模型

    神经网络的表现在训练时间、数据集大小和模型大小上预测性地提高，这一现象被称为神经缩放定律，而计算最优缩放定律则是将性能作为计算单元函数以选择模型大小来报告的；研究表明，神经网络在训练早期以 $1/ extit {width}$ 的速度收敛到无限宽度动力学，但在后期表现为 $ extit {width}^{-c}$ 的速度，其中 $c$ 取决于架构和任务的结构；此外，理论上显示了由于数据的重复重用，训练和测试损失之间的差距可以随时间逐渐增大。

    Feb, 2024

  • 生物启发深度学习算法和架构的可扩展性评估

    通过对 MNIST、CIFAR-10 和 ImageNet 数据集中的机器学习任务进行实验，我们提出和探究了目标传播和反馈对齐算法的变体，在全连接和局部连接的体系结构下，大部分算法都可以很好的完成 MNIST 数据集的任务。然而，我们发现在面对 CIFAR 和 ImageNet 数据集时，这些算法在局部连接的体系结构下表现不如反向传播算法，因此我们需要新的架构和算法来扩展这些方法。

    Jul, 2018

  • 不对称权重的深度学习

    提出了 Product Feedback Alignment（PFA）算法，它在避免显式的权重对称的同时，几乎与反向传播（BP）算法相同，能够在深度卷积网络中实现可比较的性能，从而提供了对长期存在的权重对称问题的新解决方案，实现了更加符合生物合理性的深度卷积网络学习。

    May, 2024

  • 图上的神经标度法则

    通过研究深度图模型的扩展性，本文从模型和数据两个角度揭示了神经扩展定律，并提出了针对图数据的模型和数据扩展定律，为构建大规模图模型提供了重要见解。

    Feb, 2024

  • 具有直接反馈校验的差分隐私深度学习

    本文提出了一种新的针对深层神经网络的差分隐私训练方法：利用直接反馈对齐算法代替标准误差反向传播算法，通过实验证明其在多种结构和数据集上都能够显著提高模型的准确率（通常提高 10-20%），从而更好地保护隐私信息。

    Oct, 2020

  • 带有稀疏连接的直接反馈对于局部学习的应用

    通过使用反馈对齐算法，提出了一种生物相似性算法来替代反向传播，用一个稀疏的反馈矩阵可以显著改进数据移动和计算的效率，与反向传播相比，可以实现数量级的改进，并且可以在某些方面获得硬件优势，同时还可以获得具有可比性的结果。

    Jan, 2019