通过对一个受 SET 卡牌游戏启发的简单任务上训练的循环神经网络（RNN）进行解读，本研究提出了一种新颖的动力学机制用于模式识别。我们将训练后的 RNN 解释为通过低维极限环中的相位转移以类似于有限状态自动机（FSA）中的状态转换来识别模式。我们通过手工创建一个简单的振荡模型来验证这一解释，该模型能够复现训练后的 RNN 的动力学。我们的发现不仅暗示了一种潜在的能够进行模式识别的动力学机制，还暗示了一种潜在的 FSA 的神经实现。最重要的是，这项工作为深度学习模型解释性的讨论做出了贡献。

Oct, 2023

该研究提出一种新型的多时间尺度随机循环神经网络用于强化学习，可以自主学习抽象的子目标并自我开发行为层次结构，在挑战性的连续控制任务中确保了比起从头开始训练更快的再学习。同时，研究发现，当神经活动遵循随机动态时，可以实现更好的表现。

Jan, 2019

提出了一种记忆增强的时间动态学习网络，利用差分记忆控制器将最显著的信息写入外部存储器，并忽略不相关的信息，增强了动作识别的效果。

Apr, 2019

本文对循环神经网络的基本原理、最新进展和研究挑战进行了说明，介绍了针对学习长期依赖问题的新进展，适合该领域的新手和专业人士。

Dec, 2017

本文对于近三十年来产生和实践了重要的循环神经网络（RNN），LSTM 和 BRNN 等模型的研究进行综述，旨在提供一个自成体系的最前沿阐述和历史视角，并引用了相关研究文献。

May, 2015

本文介绍了简单而强大的时钟 RNN 的修改方法，该方法将隐藏层分成单独的模块，在其自己的时间粒度上处理输入，并且在测试的任务中改善了性能，速度快于标准的 RNN 模型，优于 RNN 和 LSTM 网络，出色地完成了声音信号生成和 TIMIT 口语识别任务。

Feb, 2014

本文研究证明可学习门控在循环神经网络中提供输入数据的时间转换几乎不变性的功能，从而为长期依赖性和参数初始化提供了新的可能性。

Mar, 2018

本文介绍了一种基于时间的递归神经网络扩展模型，使其适用于不均匀采样的连续变量观测数据，并展示了该模型在两种工业输入 / 输出过程的样本中的有效性。

Nov, 2019

提出了两种基于 RNN 的可解释 DL 结构，即 TA-RNN 和 TA-RNN-Autoencoder，用于在下次访问和多次访问中预测患者的临床结果。实验证明，这些模型在预测阿尔茨海默病和死亡的性能方面超过了其他方法，并且在包括可变时间间隔的数据中也表现出色。

Jan, 2024

通过系统实证分析，本文发现在文本生成等实际应用场景下，基本的 RNN 或 LSTM RNN 的训练过程中不会表现出混沌行为，这一发现说明未来的研究应该将方向放在非线性动力学的另一个方面上。

Apr, 2020