RNNs trained on compositional tasks can exhibit functional and anatomical modularity when applying brain-inspired modular training, leading to improved performance and potential applications in neuromorphic computing and enhancing interpretability of neural network architectures.

Oct, 2023

提出一种模块化的神经网络设计方法，将神经网络分解为控制模块和多个实现基本操作的功能模块，以提高训练速度、训练稳定性和可维护性，并通过比较整体和模块化神经网络在排序问题上的表现来说明模块化概念，同时讨论了在模块化神经网络中出现的一些问题。

Feb, 2019

本研究提出了一种基于条件计算的灵活选择神经模块的训练算法，该算法能够提高深度学习中的模型容量而不需要过多的计算资源和训练时间，并且在图像识别和语言建模任务中实现了比现有方法更好的性能。

Nov, 2018

本文提出了一种学习一组神经网络模块并以不同方式组合的策略，并通过重复使用模块来实现组合概括，提高机器人相关问题的性能。

Jun, 2018

通过具备多重尺度的完全描述网络层次结构的嵌套概率模型，可避免现有方法的局限性，在更高的分辨率下检测模块化结构并确保不产生伪模块，且具有一般性和可扩展性，适用于大型网络的高效算法

Oct, 2013

该论文探讨神经网络的组成特性以及地位，提出了一种基于模块化的网络结构，利用预定的角色将模块拆分，同时提供对模块崩溃问题的解决方案，提高了整个网络的鲁棒性和解析准确性。

Jun, 2023

本研究提出了一种基于逐层单元剪枝和网络分析的方法，用于揭示任务中底层次模块的分层结构，结果表明该方法可以适用于布尔函数和视觉任务。

May, 2023

通过使用计算方法提出一种层次化模块分解大量高分辨率脑功能网络的方法，探讨人类大脑功能网络的层次化模块组织及模块内模块结构，揭示了模块间连接的关键作用，为研究大脑的适应性提供了基础。

Apr, 2010

通过模块性和超网络的研究，我们证明了从有限数据中的元学习可以发现能够组合性地概括的模块化解决方案。

Dec, 2023

通过使用在系统神经科学任务上训练的循环神经网络，本研究调查了相关网络中模块化结构的特定功能角色、起源和动力学含义等重要特征。研究表明，模块是功能上连贯的单元，有助于专门的信息处理；模块是通过输入层到循环层的投射中的符号和权重的不对称性自发形成的；而且模块在控制系统行为和动力学中具有类似角色的连接。结合起来，我们的研究结果阐明了功能连接模块的功能、形成和操作意义，为进一步研究大脑功能、发展和动力学奠定了基础。

Oct, 2023