人工神经网络探究:来自神经科学的启示
本文探讨了如何利用深度学习来研究神经健康以及在算法模型中解释神经分析的困难。其重要贡献在于调查死亡神经元对人工神经网络性能的影响,以评估这些发现在生物领域的潜在应用,可能对神经系统疾病的治疗有重要影响。
Jun, 2023
本篇论文全面综述了现今人工神经网络中基于仿生学学习机制的表示,研究了加入更多仿生意义机制如突触可塑性以加强网络能力的可能性和挑战,并找到未来的研究方向,以更深入理解智能的本质。
May, 2023
该研究综述了计算神经科学家开发的数据分析概念和技术如何有助于分析深度神经网络(DNN)中的表示,并探讨了近期发展的 DNN 分析技术如何有助于理解生物神经网络中的表示,为神经科学和机器学习领域提供了协同机会,例如使用 DNN 作为神经科学的模型系统,并探讨了这种协同怎样能够产生有关生物神经网络操作原理的新假设。
Oct, 2018
本文考虑在神经科学和机器学习之间建立联系,提出脑部通过优化各式各样的代价函数来实现数据高效学习和定向行为,其中包括关注、递归等结构体系和各种形式的短时和长时记忆存储,作者提出了未来神经科学试图改进和检验这些假设的方向。
Jun, 2016
本文介绍了一种基于信息理论的方法来评估神经网络对自然语言处理的理解程度,即探针,发现在评估中应选择表现最好的模型,即使它是更复杂的模型,以获得更紧密的估计和更多的语言信息。作者在多种语言数据集上进行实验验证了这种方法的有效性。
Apr, 2020
本章介绍了一种神经科学方法 ——Activation Maximization(AM),利用机器学习技术综合推理神经元的首选刺激,以大力激发人造或生物大脑中的单个细胞或细胞组,并讨论了现有 AM 技术的概率解释和其在网络调试和解释方面的应用。
Apr, 2019
该综述旨在通过研究神经科学和认知心理学的方法,为人工通用智能的追求做出贡献。尽管深度学习模型在各个领域取得了令人印象深刻的进展,但它们在抽象推理和因果理解方面仍然存在缺点。这些能力应该最终整合到人工智能系统中,以克服数据驱动的限制,并以更加接近人类智能的方式支持决策。本工作是一项纵向综述,试图广泛探索大脑功能的范围,包括从低层生物神经元、尖峰神经网络和神经元集合到更高层的概念,如脑解剖学、向量符号体系结构、认知和分类模型以及认知体系结构。希望这些概念能为人工通用智能的解决方案提供启示。
Jan, 2024
该论文综述了近期生物学启发的人工智能方法,重点介绍了脉冲神经网络模型及其训练中的挑战,以及用于传统网络和脉冲网络的生物启发式训练方法,以推进当前模型的计算能力和生物合理性。
Jul, 2023
这篇论文调研了模拟生物可行的信用分配规则在人工神经网络中的多个重要算法,并讨论了它们在不同科学领域的解决方案以及在 CPU、GPU 和神经形态硬件上的优势,最后讨论了未来需要解决的挑战,以使这些算法在实际应用中更加有用。
Feb, 2024