AAAIDec, 2023

前向 - 前向算法的卷积式分通道竞争学习

PDF
TL;DR通过通道竞争学习在卷积神经网络中提出前向传递算法（Forward-Forward Algorithm）的改进方法，构建一个逐层有竞争性的学习过程，避免了负数据的生成、收敛速度较慢以及在复杂任务上性能不足等限制，在图像分类任务中，我们的方法优于基于前向传递算法的最近模型，在 MNIST、Fashion-MNIST、CIFAR-10 和 CIFAR-100 上的测试错误率分别为 0.58%、7.69%、21.89% 和 48.77%。这项研究主张了一种能够以模块化、更高效、更灵活的方式学习有用的表示的方法。
forward-forward algorithmbackpropagationconvolutional neural networkscompetitive learningimage classification tasks
发现论文，激发创造
  • 使用前向 - 前向算法训练卷积神经网络

    探索了前馈算法在卷积神经网络中的应用，并使用新的标记技术，在 MNIST 手写数字数据集上实现了 99％的分类准确率，并比较了不同超参数对算法性能的影响。

    Dec, 2023

  • 改进的前向对比学习

    在这篇论文中，我们通过消除 Forward-Forward Continuous Learning (FFCL) 的最后两个阶段和完全去除常规的反向传播，而仅仅依靠本地更新来解决常规反向传播在生物大脑中的局限性，从而提出了一种更具生物可行性的学习方法。

    May, 2024

  • 前向 - 前向对比学习

    该研究论文提出了一种基于前向前向对比学习的图像分类预训练方法，通过将前向算法与对比学习结合，可以构建出更加具有鲁棒性的分类模型，实验结果表明该方法可以取得比现有预训练模型更加出色的分类性能。

    May, 2023

  • 分布式深度学习中的前向 - 前向

    通过分布式计算环境中采用 Geoffrey Hinton 的 Forward-Forward（FF）算法来增强神经网络的训练，该论文介绍了一种新的分布式深度学习方法。该方法利用双向传递策略进行前向传递，与传统的前向和后向传递方法有显著的区别，与人脑的处理机制更加接近，可能提供更有效和符合生物学原理的神经网络训练方法。我们的研究探索了 FF 算法在分布式环境中的实现，重点关注其促进神经网络层的并行训练能力。这种并行性旨在减少训练时间和资源消耗，从而解决当前分布式深度学习系统中存在的一些固有挑战。通过分析 FF 算法在分布式计算中的有效性，我们旨在展示其作为分布式深度学习系统中的一个具有变革性工具的潜力，提高训练效率。将 FF 算法集成到分布式深度学习中，代表了该领域的重要进展，有可能彻底改变在分布式环境中训练神经网络的方式。

    Mar, 2024

  • 图神经网络的前向学习

    通过本文中提出的 ForwardGNN 算法，我们可以以一种新的前向学习方式来解决 BP 算法所带来的局限性，该算法扩展了原始的前向传播算法，使其适用于图数据和图神经网络，并且不再需要产生负输入数据，同时每个层可以从自下而上和自上而下的信号中学习，而不依赖于误差的后向传播。在实际数据集上进行的大量实验表明，这种前向图学习框架的有效性和普适性。

    Mar, 2024

  • 基于前馈设计的可解释卷积神经网络

    本文提出了一种解释性前馈 (FF) 设计，通过数据统计推导出当前层的网络参数，构建了基于 Saab 变换和 LRS 级联的卷积与全连接层的 CNN， 并在 MNIST 和 CIFAR-10 数据集上比较了 BP 和 FF 设计的分类准确性和鲁棒性，并探讨了 BP 和 FF 设计之间的关系。

    Oct, 2018

  • 基于层级竞争学习的生物启发式深度学习方法

    该研究提出了一种基于生物学启发的新的深度卷积神经网络学习方法，使用无监督的竞争学习来进行预训练可解决标记数据缺乏的问题，在 MNIST、CIFAR-10 和 ImageNet 数据集上获得了最先进的表现，其高层次的学习表示方法不需要反向传播错误信号来训练卷积层，可用于各种标记不足的数据。

    Jan, 2020

  • 采用分层无监督学习减少前向算法中的数据和损失需求

    最近的深度学习模型，如 ChatGPT，利用反向传播算法展示出令人瞩目的性能。然而，生物大脑过程与反向传播算法之间的差异被注意到。为了解决这个问题，出现了纯正向传播算法，它只通过前向传递来训练深度学习模型。尽管由于必须使用特殊的输入和损失函数等局限性，纯正向传播算法不能取代反向传播，但它在反向传播难以使用的特殊情况下具有潜在的有用性。为了解决这个局限并验证可用性，我们提出了一种无监督的纯正向传播算法。使用无监督学习模型可以使用通常的损失函数和输入进行训练，没有限制。通过这种方法，我们实现了稳定的学习，并能够在不同的数据集和任务中实现多功能的应用。从可用性的角度来看，考虑到纯正向传播算法的特点和所提方法的优势，我们预计它在需要在物理分布环境中单独训练深度学习层的场景中实际应用，如联合学习。

    Apr, 2024

  • 综合正向算法：将正向传递和浅层反向传播与局部损失相结合

    该研究比较了反向传播算法、前向 - 前向算法和提出的一个整合算法，并在 MNIST 数据库上进行了分类任务的测试，结果表明，使用提出的整合算法可以生成具有强健性等优势特征的神经网络。

    May, 2023

  • 正向 - 正向算法作为皮肤病变分类特征提取器的初步研究

    本文提出了通过结合前向前向算法和反向传播算法进行生物医学图像分类，进而实现对皮肤病的早期检测和更准确的分类，为临床医生的诊断和治疗提供帮助。

    Jul, 2023