Dec, 2023

脑启发的机器智能：神经生物学可行的信用分配综述

PDF
TL;DR通过对受神经生物学启发或影响的人工神经网络中进行信用分配的算法的调查，我们提出了一个分类法，根据学习算法回答复杂自适应神经系统突触可塑性机制的核心问题的方式，整理了不断增长的大脑启发学习过程集合为六个通用家族，并在反向传播和其已知批评的背景下考虑了这些家族，结果旨在鼓励未来在神经仿真系统及其组成学习过程的发展，从而在机器学习、计算神经科学和认知科学之间建立良好的桥梁。
credit assignmentneurobiologyartificial neural networkssynaptic plasticitylearning algorithms
发现论文，激发创造
  • 神经科学启发的机器学习综述

    这篇论文调研了模拟生物可行的信用分配规则在人工神经网络中的多个重要算法，并讨论了它们在不同科学领域的解决方案以及在 CPU、GPU 和神经形态硬件上的优势，最后讨论了未来需要解决的挑战，以使这些算法在实际应用中更加有用。

    Feb, 2024

  • 人工神经网络中基于大脑启发的学习策略综述

    本篇论文全面综述了现今人工神经网络中基于仿生学学习机制的表示，研究了加入更多仿生意义机制如突触可塑性以加强网络能力的可能性和挑战，并找到未来的研究方向，以更深入理解智能的本质。

    May, 2023

  • 反馈与局部可塑性学习的学习

    本研究使用元学习发现网络如何利用反馈机制和本地、仿生学习规则，以进行在线信用分配，并超越了现有的基于梯度的算法在回归和分类任务方面的性能，特别是在持续学习方面表现优异，结果表明存在一类生物可行的学习机制，不仅匹配梯度下降，而且还克服了其局限性。

    Jun, 2020

  • 脉冲神经网络与生物启发式监督深度学习：综述

    该论文综述了近期生物学启发的人工智能方法，重点介绍了脉冲神经网络模型及其训练中的挑战，以及用于传统网络和脉冲网络的生物启发式训练方法，以推进当前模型的计算能力和生物合理性。

    Jul, 2023

  • 生物可信神经网络的研究：大脑启发机制在持续学习中的作用和交互

    通过生物学上的神经元网络组合中的多种互补机制，可以在人工神经网络中实现连续学习。

    Apr, 2023

  • 通过预测编码实现脑启发型计算智能

    人工智能（AI）是本世纪迅速发展的关键技术之一。然而，使用误差反向传播学习算法训练的深度神经网络在 AI 领域取得的大多数成果已经凸显出一些重要限制，例如计算成本高、难以量化不确定性、缺乏鲁棒性、不可靠性和生物不可行性。解决这些限制可能需要受到神经科学理论启发和指导的方案。其中一种理论称为预测编码（PC），在机器智能任务中表现出有希望的性能，具有令人兴奋的特性，对机器学习社区具有潜在价值：PC 可以模拟大脑不同区域的信息处理，可用于认知控制和机器人学，并具有基于变分推断的坚实数学基础，为某类连续状态生成模型提供了强大的反演方案。希望通过调研有助于这一方向的文献，突出展示 PC 在机器学习和计算智能的未来中可能发挥的多种作用。

    Aug, 2023

  • 利用树突特性推进机器学习和神经启发式计算

    通过生物神经元的树突机制推导出 AI 领域中的重要问题，为构建更强大、能源效率更高的人工学习系统提供了新的解决方案。

    Jun, 2023

  • 平衡中的贡献，按比例连接：从简单的生物可塑性规则中产生反向传播

    通过介绍一种新的神经可塑性规则，该研究提供了一种在大脑中实现反向传播的潜在机制，并在数学模拟和人工神经网络实验中证明该规则在网络中诱导出不同的社区结构，从而呈现出一种生物学上可行的 BP 实现方式。

    May, 2024

  • 通过强化学习和无监督学习的融合控制神经网络的突触可塑性

    提出了一种基于突触可塑性动态的学习规则，该规则通过融合强化学习和非监督学习模拟误差反馈机制和两个重要机制，包括错误反馈系统以及非监督学习。

    Mar, 2023

  • 脑科学和认知心理学发现综述作为通往人工智能广泛智能的灵感可能性

    该综述旨在通过研究神经科学和认知心理学的方法，为人工通用智能的追求做出贡献。尽管深度学习模型在各个领域取得了令人印象深刻的进展，但它们在抽象推理和因果理解方面仍然存在缺点。这些能力应该最终整合到人工智能系统中，以克服数据驱动的限制，并以更加接近人类智能的方式支持决策。本工作是一项纵向综述，试图广泛探索大脑功能的范围，包括从低层生物神经元、尖峰神经网络和神经元集合到更高层的概念，如脑解剖学、向量符号体系结构、认知和分类模型以及认知体系结构。希望这些概念能为人工通用智能的解决方案提供启示。

    Jan, 2024