利用生物树突的结构连接性和受限采样特性,提出了一种新的人工神经网络架构,通过不同的学习策略实现对多个类别的响应,使得树突人工神经网络在图像分类任务中具有更高的鲁棒性和更低的可训练参数数量。
Apr, 2024
通过引入一种模拟树突分支节段的多功能电路,本研究揭示了树突在生物感知以及神经网络构建中的重要作用,并证明可以纯由树突电路构建神经元网络。
Oct, 2023
将生物神经元属性纳入人工神经网络以增强计算能力是机器学习领域中面临的重大挑战,我们提出了一种新颖的人工神经网络模型 DIQNN (Dendritic Integration-Based Quadratic Neural Network),该模型在各种分类任务中表现出优于传统人工神经网络的性能。为了降低 DIQNN 的计算成本,我们介绍了一种低秩 DIQNN,发现它可以保持原始 DIQNN 的性能。我们进一步提出一个边界来描述泛化误差,并在理论上证明该边界在训练过程中会单调增加。我们通过数值实验展示了泛化性和我们的边界之间的一致性。最后,通过将该边界整合到损失函数中,我们的实验结果证明了测试精度的变化确实得到了加速。我们的工作提供了一种新颖的、受大脑启发的人工神经网络模型,优于传统人工神经网络,并提供了分析分类任务中泛化误差的理论框架。
May, 2023
通过生物神经元的树突机制推导出 AI 领域中的重要问题,为构建更强大、能源效率更高的人工学习系统提供了新的解决方案。
Jun, 2023
通过生物学上的神经元网络组合中的多种互补机制,可以在人工神经网络中实现连续学习。
Apr, 2023
通过生物学对神经元的性质进行深度学习网络的架构设计和实现,成功地解决了动态情境下的任务适应及多任务学习问题,进一步说明了神经元的生物学特征可以启示深度学习系统解决传统神经网络无法解决的动态场景中的问题.
Dec, 2021
本文介绍了一种基于线性样条基函数扩展动态可解释的分段线性循环神经网络(PLRNN)的方法,用于近似任意非线性动态系统。我们采用 BPTT 与教师强制以及快速可接受的变分推理两种框架对系统进行训练,并在各种动态系统基准测试上表明,这种方法具有更好的重建能力和更少的参数和尺寸。
Jul, 2022
该研究探讨了通过细胞间的局部通信和自组织来实现神经网络的生长过程,引入了两种机制以确保保持神经元多样性,同时解决了优化稳定性和神经元多样性之间的矛盾。实验结果表明,通过这两种机制,神经发育程序在复杂运动任务中取得了与现有编码方式相当的结果。
May, 2024
本文提出了一种基于双向完全图的 YNN 模型,可以更好地模拟神经网络,并消除了传统人工神经网络存在的结构性偏差。通过引入辅助稀疏性约束,YNN 模型可促进连接分布集中于关键连接。最后,还设计了基于最小割技术的小型神经模块结构,以减少 YNN 模型的计算负担。
研究了神经科学的机制对 AI 算法的发展具有重要价值,人工神经网络应该借鉴大脑神经元的学习方式,建立个性化的错误空间以预测更加准确的类别和特征,取得更好的迁移性能。