通过神经元特化，提出一种解决多语言翻译中干扰和促进知识转移的方法，并通过大量实验证明了其相比强基准模型的性能提升以及减少干扰并增加知识转移的效果。

Apr, 2024

研究了神经科学的机制对 AI 算法的发展具有重要价值，人工神经网络应该借鉴大脑神经元的学习方式，建立个性化的错误空间以预测更加准确的类别和特征，取得更好的迁移性能。

Jun, 2023

本文研究神经网络的透明度缺乏问题，通过对激活模式和网络消融的表征，揭示了在完成学习任务时单个神经元和神经元群体的作用，强调了为未来的转移学习和现代神经科学发展提供必需指标的重要性。

Apr, 2020

本研究旨在解决通过构建细粒度的 NLP 模型与具有功能性的 fMRI 数据捕捉大脑活动进行相互关联的问题，从而在将来提供有关 NLP 模型的神经启示。

Mar, 2023

通过研究数千个基于神经科学的任务训练的网络，我们发现基于表示几何的相似度测量在不同网络结构中可能高度敏感，并且无论架构如何，神经动力学的计算骨架通常表现出普遍性。

Jul, 2019

通过生物学上的神经元网络组合中的多种互补机制，可以在人工神经网络中实现连续学习。

Apr, 2023

为了在任务执行期间自动构建神经网络结构提出了一种自构建神经网络（SBNN）。 该模型采用 Hebbian 学习和修剪相结合的方法，以拟合神经元的突触形成过程。 在与传统神经网络的比较中，结果表明其表现通常优于传统神经网络，并且在验证测试中 SBNNs 比传统神经网络更适应新任务，特别是在注重权重修剪的情况下。

Apr, 2023

本研究提出了一种名为 X-Net 的新型神经网络，通过使用交替反向传播机制，在训练过程中根据导数信息动态选择适当的激活函数，增强网络对特定任务的表示能力。同时，在神经元级别准确调整网络结构以适应不同复杂度的任务和减少计算成本。通过一系列实验，我们展示了 X-Net 在减小模型大小和提高表示能力方面的双重优势。具体而言，就参数数量而言，X-Net 的平均值仅为基准的 3％，某些任务下仅为 1.4％。在表示能力方面，仅通过优化激活函数而不引入任何参数，X-Net 在拟合任务上可以实现平均 R^2=0.985。最后，我们还测试了 X-Net 在社会、能源、环境和航空航天等多个学科的数据上帮助科学发现的能力，并取得了简洁而优异的结果。

Jan, 2024

研究了如何通过深度学习将适应性神经元包含在递归脉冲神经元网络（RSNNs）中，从而优化网络结构，实现知识迁移和在少数示例中进行学习、手段是 BPTT 算法。

Mar, 2018

通过研究具有一个隐藏层的网络的学习动态，我们发现网络的激活函数对于表示几何的影响强于预期：Tanh 网络倾向于学习反映目标输出结构的表示，而 ReLU 网络保留了更多关于原始输入结构的信息。这种差异在广泛的参数化任务中一直存在，我们在这些任务中调节任务输入的几何与任务标签的对齐程度。我们通过分析权重空间中的学习动态，说明了 Tanh 和 ReLU 非线性网络之间的差异是由于 ReLU 的非对称渐近行为导致的，这导致特征神经元专门针对输入空间的不同区域。相比之下，Tanh 网络中的特征神经元倾向于继承任务标签结构。因此，当目标输出是低维时，Tanh 网络生成的神经表示比采用 ReLU 非线性的表示更具解耦性。我们的发现揭示了神经网络中输入输出几何、非线性和学习表示之间的相互作用。

Jan, 2024