May, 2023

通过神经网络的随机多样性进化学习行动

PDF
TL;DR本文提出将神经网络的神经元进行参数优化，以获得能够执行复杂计算的不同类型的神经元，并展示了如何通过演化神经元参数来解决各种强化学习任务。研究结果表明，神经元的多样性有助于提高神经网络的计算能力。
neuronsneural networksoptimizationreinforcement learningneural diversity
发现论文，激发创造
  • 成长中的人工神经网络控制：神经元多样性的作用

    该研究探讨了通过细胞间的局部通信和自组织来实现神经网络的生长过程，引入了两种机制以确保保持神经元多样性，同时解决了优化稳定性和神经元多样性之间的矛盾。实验结果表明，通过这两种机制，神经发育程序在复杂运动任务中取得了与现有编码方式相当的结果。

    May, 2024

  • 走向神经人工智能：将神经多样性引入人工神经网络

    论文介绍了神经多样性对于人工神经网络的重要意义，并探讨了如何将神经多样性引入人工网络以解决其固有问题，例如效率、可解释性和记忆问题。

    Jan, 2023

  • 演化自组成神经网络：从自发活动到经验依赖学习

    基于神经发育程序的一类自组织神经网络模型，具有可塑性，并能从经历中学习和适应不同的控制任务。结果表明，在需要快速适应或具有非稳态奖励的环境中，结构可塑性是有益的。

    Jun, 2024

  • 从生物到人工神经网络的转化与借鉴

    本文探讨了如何利用深度学习来研究神经健康以及在算法模型中解释神经分析的困难。其重要贡献在于调查死亡神经元对人工神经网络性能的影响，以评估这些发现在生物领域的潜在应用，可能对神经系统疾病的治疗有重要影响。

    Jun, 2023

  • 人工神经网络中基于大脑启发的学习策略综述

    本篇论文全面综述了现今人工神经网络中基于仿生学学习机制的表示，研究了加入更多仿生意义机制如突触可塑性以加强网络能力的可能性和挑战，并找到未来的研究方向，以更深入理解智能的本质。

    May, 2023

  • 随机网络中基于赫比塞塑性的元学习

    受生物神经元可塑性启发，我们提出了一种搜索方法，通过寻找突触特异的赫比学习规则，使网络能在智能体的生命周期内持续自组织其权重，从而实现在一些强化学习任务中取得成功，同时对多种感官模态处理方式具有适应性。

    Jul, 2020

  • 生而学习：演化塑料人工神经网络的灵感、进展和未来

    本文回顾了生物塑料神经网络及其进化的人造模型的主要方法和成果，并提出了相关的机会和发展。

    Mar, 2017

  • 通过神经发育计划实现自组装人工神经网络

    本文介绍一种神经网络成长的过程，通过一种类似于生物发育的过程，使用神经发育程序 (NDP) 作为一种引导机制，进而自我组织神经网络。作者还探讨了这种方法在不同优化方法（进化训练，在线 RL，离线 RL 和监督学习）和不同机器学习基准上的实验表现，并强调了自组织驱动神经网络成长所带来的未来研究方向和机会。

    Jul, 2023

  • 生物可信神经网络的研究：大脑启发机制在持续学习中的作用和交互

    通过生物学上的神经元网络组合中的多种互补机制，可以在人工神经网络中实现连续学习。

    Apr, 2023

  • 深度学习中生物学的角色

    本文回顾了人工神经网络历史并将现代理论神经科学应用于深度学习领域中的实验，使用迭代幅值剪枝来训练稀疏连接的网络，发现仅仅靠权重稀疏并不能提高图像的噪声鲁棒性，最近，开发出利用权重稀疏性，活性稀疏性和主动树突建模来方便持续学习的模型，本文重新验证了这些发现，并将该方法扩展到更具挑战的连续学习任务上，并公开了代码。

    Sep, 2022