Oct, 2016

探索具有隔离树突的深度学习

PDF
TL;DR通过采用具有多重分区的神经元的深度学习算法，该论文展示了如何理解大脑如何优化成本函数，并证明通过分离树突分支可以实现深度学习。
发现论文，激发创造
  • 树突皮层微电路模拟反向传播算法

    本文基于深度学习和神经科学，介绍了一种多层神经元网络模型，该模型利用简化的树突区，实现误差驱动的突触可塑性，在时间上持续地通过局部树突预测误差进行突触学习，进而解决了长期以来的突触学分配问题，并在回归和分类任务中证明模型的学习能力。

    Oct, 2018

  • 深度学习与神经科学的集成

    本文考虑在神经科学和机器学习之间建立联系，提出脑部通过优化各式各样的代价函数来实现数据高效学习和定向行为，其中包括关注、递归等结构体系和各种形式的短时和长时记忆存储，作者提出了未来神经科学试图改进和检验这些假设的方向。

    Jun, 2016

  • 用于深度分布式强化学习的多区室神经元和群体编码优化的脉冲神经网络

    通过结合生物启发式多室神经元模型和群编码方法，提出基于突触前神经元的深度分布式强化学习算法，其在 Atari 游戏上的表现超过了 “vanilla” 的基于 ANN 的 FQF 模型和基于 ANN-SNN 转换方法的 Spiking-FQF 模型。

    Jan, 2023

  • 神经元发生的深度学习

    本文通过加入新神经元到深度神经网络的层中，探索了连续学习的潜力，并通过 MNIST 手写数字数据集和 NIST SD 19 数据集证明了神经发生有助于解决适应性机器学习算法中的稳定性和可塑性两难问题。

    Dec, 2016

  • 避免灾难：主动树突在动态环境中实现多任务学习

    通过生物学对神经元的性质进行深度学习网络的架构设计和实现，成功地解决了动态情境下的任务适应及多任务学习问题，进一步说明了神经元的生物学特征可以启示深度学习系统解决传统神经网络无法解决的动态场景中的问题.

    Dec, 2021

  • 深层皮质微回路中的树突误差反向传播

    通过对多区域神经元网络模型的介绍，本研究提出了一种新的突触可塑性学习规则，通过基础树突上的突触修饰实现错误反向传递从而学习。并且在该框架中加入一种去抑制机制，使得该框架能够生成噪声和关注感和一些其它学习任务。

    Dec, 2017

  • 利用树突特性推进机器学习和神经启发式计算

    通过生物神经元的树突机制推导出 AI 领域中的重要问题，为构建更强大、能源效率更高的人工学习系统提供了新的解决方案。

    Jun, 2023

  • 树突使人工神经网络具备准确、稳健和参数高效的学习能力

    利用生物树突的结构连接性和受限采样特性，提出了一种新的人工神经网络架构，通过不同的学习策略实现对多个类别的响应，使得树突人工神经网络在图像分类任务中具有更高的鲁棒性和更低的可训练参数数量。

    Apr, 2024

  • 上下文敏感的新皮层神经元转换神经信息处理的有效性和效率

    通过模仿具有环境感知性的新皮层神经元的能力，使用视频信息作为上下文来引导音频信号处理，既能提高深度学习在音频 - 视觉处理方面的处理效能，又能提高处理效率和能源利用效率。

    Jul, 2022

  • 一个多功能电路用于仿真生物活跃树突，应用于声音定位和神经元模拟

    通过引入一种模拟树突分支节段的多功能电路，本研究揭示了树突在生物感知以及神经网络构建中的重要作用，并证明可以纯由树突电路构建神经元网络。

    Oct, 2023