Apr, 2024

树突使人工神经网络具备准确、稳健和参数高效的学习能力

PDF
TL;DR利用生物树突的结构连接性和受限采样特性，提出了一种新的人工神经网络架构，通过不同的学习策略实现对多个类别的响应，使得树突人工神经网络在图像分类任务中具有更高的鲁棒性和更低的可训练参数数量。
artificial neural networksdeep learningrestricted samplingdendritic annsimage classification
发现论文，激发创造
  • 利用树突特性推进机器学习和神经启发式计算

    通过生物神经元的树突机制推导出 AI 领域中的重要问题，为构建更强大、能源效率更高的人工学习系统提供了新的解决方案。

    Jun, 2023

  • 避免灾难：主动树突在动态环境中实现多任务学习

    通过生物学对神经元的性质进行深度学习网络的架构设计和实现，成功地解决了动态情境下的任务适应及多任务学习问题，进一步说明了神经元的生物学特征可以启示深度学习系统解决传统神经网络无法解决的动态场景中的问题.

    Dec, 2021

  • 减缓神经网络通信成本：树突非线性的作用

    通过机器学习方法，探究了非线性树突对神经网络性能的影响，并发现集成树突结构可以大大提高模型能力和性能，同时有效地控制信号通信成本。

    Jun, 2023

  • 脉冲神经网络深度学习

    该研究论文讨论深度脉冲神经网络的训练方法，比较有监督和无监督学习的准确性、计算成本和硬件友好性，发现深度脉冲神经网络在准确性方面仍落后于人工神经网络，但在许多任务中可以达到相同的准确性并需要更少的计算操作。

    Apr, 2018

  • 一个多功能电路用于仿真生物活跃树突，应用于声音定位和神经元模拟

    通过引入一种模拟树突分支节段的多功能电路，本研究揭示了树突在生物感知以及神经网络构建中的重要作用，并证明可以纯由树突电路构建神经元网络。

    Oct, 2023

  • 生物可信神经网络的研究：大脑启发机制在持续学习中的作用和交互

    通过生物学上的神经元网络组合中的多种互补机制，可以在人工神经网络中实现连续学习。

    Apr, 2023

  • 面向脑启发式设计以解决人工神经网络的不足之处

    研究了神经科学的机制对 AI 算法的发展具有重要价值，人工神经网络应该借鉴大脑神经元的学习方式，建立个性化的错误空间以预测更加准确的类别和特征，取得更好的迁移性能。

    Jun, 2023

  • 基于树突积分的二次神经网络超越传统的人工网络

    将生物神经元属性纳入人工神经网络以增强计算能力是机器学习领域中面临的重大挑战，我们提出了一种新颖的人工神经网络模型 DIQNN (Dendritic Integration-Based Quadratic Neural Network)，该模型在各种分类任务中表现出优于传统人工神经网络的性能。为了降低 DIQNN 的计算成本，我们介绍了一种低秩 DIQNN，发现它可以保持原始 DIQNN 的性能。我们进一步提出一个边界来描述泛化误差，并在理论上证明该边界在训练过程中会单调增加。我们通过数值实验展示了泛化性和我们的边界之间的一致性。最后，通过将该边界整合到损失函数中，我们的实验结果证明了测试精度的变化确实得到了加速。我们的工作提供了一种新颖的、受大脑启发的人工神经网络模型，优于传统人工神经网络，并提供了分析分类任务中泛化误差的理论框架。

    May, 2023

  • 从生物到人工神经网络的转化与借鉴

    本文探讨了如何利用深度学习来研究神经健康以及在算法模型中解释神经分析的困难。其重要贡献在于调查死亡神经元对人工神经网络性能的影响，以评估这些发现在生物领域的潜在应用，可能对神经系统疾病的治疗有重要影响。

    Jun, 2023

  • 人工神经网络中基于大脑启发的学习策略综述

    本篇论文全面综述了现今人工神经网络中基于仿生学学习机制的表示，研究了加入更多仿生意义机制如突触可塑性以加强网络能力的可能性和挑战，并找到未来的研究方向，以更深入理解智能的本质。

    May, 2023