Sep, 2022
深度学习中生物学的角色
The Role Of Biology In Deep Learning
Robert Bain
TL;DR本文回顾了人工神经网络历史并将现代理论神经科学应用于深度学习领域中的实验，使用迭代幅值剪枝来训练稀疏连接的网络，发现仅仅靠权重稀疏并不能提高图像的噪声鲁棒性，最近，开发出利用权重稀疏性，活性稀疏性和主动树突建模来方便持续学习的模型，本文重新验证了这些发现，并将该方法扩展到更具挑战的连续学习任务上，并公开了代码。
Abstract
artificial neural networks took a lot of inspiration from their biological
counterparts in becoming our best machine perceptual systems. This work
summarizes some of that history and incorporates modern theoretical
neuroscience into experiments with →
发现论文，激发创造
从生物到人工神经网络的转化与借鉴
本文探讨了如何利用深度学习来研究神经健康以及在算法模型中解释神经分析的困难。其重要贡献在于调查死亡神经元对人工神经网络性能的影响，以评估这些发现在生物领域的潜在应用，可能对神经系统疾病的治疗有重要影响。
Jun, 2023
脉冲神经网络与生物启发式监督深度学习：综述
该论文综述了近期生物学启发的人工智能方法，重点介绍了脉冲神经网络模型及其训练中的挑战，以及用于传统网络和脉冲网络的生物启发式训练方法，以推进当前模型的计算能力和生物合理性。
Jul, 2023
避免灾难：主动树突在动态环境中实现多任务学习
通过生物学对神经元的性质进行深度学习网络的架构设计和实现，成功地解决了动态情境下的任务适应及多任务学习问题，进一步说明了神经元的生物学特征可以启示深度学习系统解决传统神经网络无法解决的动态场景中的问题.
Dec, 2021
神经科学启发的机器学习综述
这篇论文调研了模拟生物可行的信用分配规则在人工神经网络中的多个重要算法，并讨论了它们在不同科学领域的解决方案以及在 CPU、GPU 和神经形态硬件上的优势，最后讨论了未来需要解决的挑战，以使这些算法在实际应用中更加有用。
Feb, 2024
神经元发生的深度学习
本文通过加入新神经元到深度神经网络的层中，探索了连续学习的潜力，并通过 MNIST 手写数字数据集和 NIST SD 19 数据集证明了神经发生有助于解决适应性机器学习算法中的稳定性和可塑性两难问题。
Dec, 2016
走向生物学可行的深度学习
本文探讨了一种更具生物学可行性的深度表示学习方法，通过一种基础学习规则（即基于突触权重更新的时序相关型可塑性）引出一种机器学习的梯度下降算法，利用神经元动态学实现了近似的变分 EM 算法，提出了使用去噪自编码器实现梯度的方法，并将其在生成学习任务上加以验证。
Feb, 2015