Jun, 2016

深度学习与神经科学的集成

PDF
TL;DR本文考虑在神经科学和机器学习之间建立联系，提出脑部通过优化各式各样的代价函数来实现数据高效学习和定向行为，其中包括关注、递归等结构体系和各种形式的短时和长时记忆存储，作者提出了未来神经科学试图改进和检验这些假设的方向。
发现论文，激发创造
  • 构建人工神经电路实现领域通用认知：关于脑启发系统级架构的入门指南

    本论文概述了生物神经网络为灵活认知所需的特征，讨论了神经网络体系结构的系统级通信和重复性以及短期拓扑变化对于机器学习模型的贡献，并说明人工系统中测试这些归纳偏见有助于理解领域通用认知的生物学原则。

    Mar, 2023

  • 探索具有隔离树突的深度学习

    通过采用具有多重分区的神经元的深度学习算法，该论文展示了如何理解大脑如何优化成本函数，并证明通过分离树突分支可以实现深度学习。

    Oct, 2016

  • 利用大规模神经影像数据集创建连接组约束方法，以实现更加稳健、高效和适应性人工智能

    利用大型神经成像数据集中的连接性图谱等手段，改善边缘端机器学习的效率和鲁棒性，并通过对果蝇和哺乳动物视脑回路连接等领域的分析，展示了多种潜在的应用脑科学领域洞见的方法。

    May, 2023

  • 面向脑启发式设计以解决人工神经网络的不足之处

    研究了神经科学的机制对 AI 算法的发展具有重要价值，人工神经网络应该借鉴大脑神经元的学习方式，建立个性化的错误空间以预测更加准确的类别和特征，取得更好的迁移性能。

    Jun, 2023

  • 人工神经网络和真实大脑训练中的新兴计算

    该研究探讨了大脑皮层神经回路中突触可塑性、神经元之间的连接和电信号传递，指出如何通过训练循环神经网络学习新任务并改变环境适应能力，同时发现人工网络和真实大脑使用相似的计算策略。

    Dec, 2022

  • 神经网络的生理机制可解释性

    比较神经网络和生物电路之间的相似和不同，研究探讨了从生物学的行为和可理解的理由中深入了解神经网络从数据中学习的见解。

    Mar, 2022

  • 通过循环神经网络的优化出现头向系统的功能和结构特性

    本文研究了神经网络在模拟神经电路的结构和功能方面的表现，通过对啮齿动物和果蝇的头部定向系统进行的研究，证明了神经网络可以自然地产生指南针神经元和移位器神经元等不同类别的神经元，其结果表明，人工神经网络可用于在神经活动和解剖组织层面上研究大脑。

    Dec, 2019

  • 深度学习中生物学的角色

    本文回顾了人工神经网络历史并将现代理论神经科学应用于深度学习领域中的实验，使用迭代幅值剪枝来训练稀疏连接的网络，发现仅仅靠权重稀疏并不能提高图像的噪声鲁棒性，最近，开发出利用权重稀疏性，活性稀疏性和主动树突建模来方便持续学习的模型，本文重新验证了这些发现，并将该方法扩展到更具挑战的连续学习任务上，并公开了代码。

    Sep, 2022

  • 人工神经网络探究：来自神经科学的启示

    这篇文章探讨从神经科学角度出发，在进行机器学习的探索性研究时，通过指定研究目标且明确探针设计的方向和表现性来实现对于感兴趣特征激活模式的监督模型

    Apr, 2021

  • 神经架构搜索综述

    本文综述了现有的方法，囊括了计算机领域中的神经体系结构搜索、自动化方法和深度学习等方面，内容包括常用的体系结构搜索空间和基于强化学习和进化算法的体系结构优化算法、模拟模型和单次模型。同时，文章对新的研究方向进行了探讨。

    May, 2019