递归神经网络中刺激依赖型混沌压制
本文研究了神经元电路的速率动力学，发现在具有稀疏正负连接的系统中，存在从固定点到混沌状态的相变，并且相变的性质取决于神经元阈值附近单一神经元输入 - 输出转移函数的形状；当突触时间常数慢于平均反应速率的倒数时，神经元网络会从快速尖峰波动和静态发射率转变为慢速混沌波动。
Aug, 2015
本研究揭示了混沌的本质可以在各种先进的深度神经网络中找到，并基于这一发现提出了一种直接利用混沌动力学进行深度学习架构的新方法。通过对不同混沌系统进行系统评估，我们发现我们的框架在准确性、收敛速度和效率方面均优于传统深度神经网络。此外，我们还发现在我们的方案中有短暂混沌形成的积极作用。总体而言，本研究为混沌的整合提供了一条新路径，并洞察了在机器学习和神经形态计算领域中混沌动力学融合的前景。
May, 2024
通过系统实证分析，本文发现在文本生成等实际应用场景下，基本的 RNN 或 LSTM RNN 的训练过程中不会表现出混沌行为，这一发现说明未来的研究应该将方向放在非线性动力学的另一个方面上。
Apr, 2020
应用机器学习技术，研究从剪辑数据中推断的动力学 Ising 模型，发现一个非互作神经元的非平稳输入模型优于一个带有神经元耦合的静态输入模型，后者即使增加了连接，对于突触间的耦合也只有轻微的影响。
Mar, 2012
运用遍历理论引入机器学习的新型训练方式，强制实现系统中的动力学不变量，以提高在有限数据情况下对混沌动力学系统的长期预测能力，用回声状态网络体系结构进行演示，并以 Lorenz1996 混沌动力学系统和光谱拟地转模型为测试案例，取得了丰硕成果。
Apr, 2023
本研究发现通过距离依赖性连接概率，可以克服兴奋性和抑制性尖峰神经元随机连接网络在进行计算时的不可靠性。在此基础上建立的空间扩展尖峰神经元网络可以展现出对称性破缺分岔现象，并能生成可进行动力学计算的时空模式。
Nov, 2016
本文研究了沿着混乱边缘初始化的深度前馈网络，发现其具有指数级的培训能力。同时探讨了 tanh 激活函数的饱和效果，发现这个效果会影响到混乱边界的训练效率，并提出了最大熵的相空间平衡特性。研究表明，在混乱边缘初始化是实现最优训练能力的必要条件，但不足以满足这个目标。
Apr, 2023
介绍了基于新颖的 Surprisal 驱动递归网络，利用过去的误差信息进行预测，取得了在 enwik8 字符级别预测任务上 1.37BPC 的较好表现，优于其他随机和完全确定性方法。
Aug, 2016