神经网络作为动态系统的视角
通过分析网络轨迹和学习过程中的动力学特性，研究了浅层神经网络在简单分类任务中的演化过程，发现不同学习速率下的动力学和轨道稳定性，这一发现与神经网络和动力学系统理论的常见智慧相对照，为动力系统理论、网络理论和机器学习之间的相互交流提供了贡献。
Apr, 2024
本文综述了动态神经网络在深度学习领域的最新研究进展和主要研究方向，分析了其在计算效率和适应性等方面的优势，总结了架构设计、决策方案、优化技术和应用开发等方面的研究问题以及未来发展的方向。
Feb, 2021
本文介绍了对网络上的动力学系统的研究的教程，特别关注解析可行的简单情况和其有用性，给出了若干有趣的例子和一些理论结果。此外，本文还介绍了动态网络上的动力学系统、软件实现和前景展望。
Mar, 2014
本文介绍了基于随机矩阵的框架来分析单层线性网络在大维度和规模数据上通过梯度下降训练的学习动态，并对神经网络中的过拟合、早停和训练初始化等问题提供了深入的见解，为进一步研究今天神经网络中出现的更复杂的结构和模型打开了大门。
May, 2018
使用物理上知悉的神经网络方法来分析含有一种运动第一积分的非线性哈密顿系统，并提出了一种结构，将现有的哈密顿神经网络结构与 Adaptable Symplectic 循环神经网络相结合，可以在整个参数空间内预测动力学，保留哈密顿方程以及相空间的辛结构。同时，利用神经网络的高维非线性能力，结合 Long Short Term Memory 网络进行判断嵌入定理的实现，构造系统的延迟嵌入，并将拓扑不变吸引子映射到真实形式。该方法对于单参数势能有效，并且即使在较长时间内也能提供准确的预测结果。
Jul, 2023
利用自监督神经网络模型从观察到的轨迹数据中恢复相互作用网络并预测个体动力学的研究，应用于耦合粒子和耦合振荡器（Kuramoto）的两个动力系统。
Oct, 2023
论文介绍了一种基于早期理论结果的算法，该算法基于反向传播和矩阵操作，可以训练前馈神经网络来近似动态系统，并将其转换为递归网络，以模拟原始系统的动态行为。
Dec, 2015
通过分析神经网络在学习线性动力系统时的训练动态，我们发现在数据分布和权重初始化方案等方面可能会导致不稳定性和学习困难，并提出了相关的缓解策略。同时，我们探讨了离散时间和连续时间动力系统学习之间的重要区别以及对非线性系统的拓展。
Jun, 2024
深度神经网络是一个复杂的自适应系统，它由许多人工神经元组成的整体作为自适应记忆，在训练动力学中表现出多种不同因素，包括训练阶段、激活函数或训练方法，而随机训练动力学导致的特征空间减少可能会导致网络脆弱性。
May, 2024