本文总结了 DeepESN 的发展、分析和应用，详细阐述了深度循环神经网络、储水池计算和状态动力学等方面的现有研究成果。

Dec, 2017

提出了一种新颖且可解释的循环神经网络结构，采用回声态网络（ESN）范例进行时间序列预测，并通过较小的并行储备池驱动不同输入组合的特征，非线性组合以产生输出，其预测能力表现优于传统单储备池 ESN。

Mar, 2024

使用局部状态观察研究动力系统的问题在于其适用于许多现实世界的系统。我们通过提出具有局部状态输入和局部或全部状态输出的回声状态网络框架来解决这个问题，结合 Lorenz 系统和 Chua 的振荡器进行验证，表明该方法的有效性。因此，我们证明了 ESN 作为一种自主动力系统具有短期预测数个 Lyapunov 时间的能力，并能有效地学习系统的动态，因此具有作为预测完全观测不可用的系统的动态的廉价代理模型的潜力。

Jun, 2023

本文提出了一种基于基因算法进行底层储备计算的正弦储备网络模型，该模型能够对经典 ESN 进行维度约简转换，以便更好地利用大型反馈结构的优势并避免梯度下降训练方法的问题。实验结果表明，该方法在混沌系统和真实世界数据方面具有较好的性能。

Jun, 2022

通过将一些储备态的组成部分反馈到网络中的输入端，我们可以显著改善给定回声状态网络的性能。我们严格证明，对于任何给定的回声状态网络，反馈几乎总是会提高输出的准确性。在三个代表不同问题类别的任务中，我们发现通过反馈，平均误差的度量减少了 30%-60%。引人注目的是，与将初始计算节点数量翻倍的计算昂贵且技术上具有挑战性的替代方案相比，反馈提供了至少与之相当的性能提升。这些结果证明了这种反馈方案的广泛适用性和实用性。

Dec, 2023

使用物理知识启发的回声状态网络 (ESN) 预测混沌系统的演化，通过引入附加损失函数惩罚非物理预测，提高了预测可预见性，展示了机器学习和物理先验知识相结合的潜力。

Apr, 2019

本文探讨了在嘈杂数据下训练循环神经网络的问题，并提出了使用卡尔曼滤波器的序贯训练算法来优化基于回声状态网络的动态预测器，该方法在两个混沌动力系统的合成数据集和实时交通数据集上表现优秀。

Apr, 2023

提出了一种新的 Reservoir Computing（RC）架构，称为 Edge of Stability Echo State Network（ES2N）。该 ES2N 模型基于将储层层定义为非线性储层（如标准 ESN）和实现正交变换的线性储层的凸组合。通过数学分析证明 ES2N 映射的整个 Jacobian 的特征谱可以包含在可控半径的复杂圆的环状邻域内，并利用这一属性证明 ES2N 的正向动力学设计得接近混沌边缘。实验分析表明，与标准 ESN 相比，这种新引入的储层模型能够达到理论上的最大短期记忆容量，并在自回归非线性建模中提供了一个有利的记忆和非线性折衷，以及显着的性能改进。

Aug, 2023

基于脑启发的脉冲回波稳态网络（Spike-ESN）模型用于航空发动机智能故障预测，通过从航空发动机序列数据中提取有用的时态特征，将数据投影到高维稀疏空间，并通过岭回归方法读取脉冲回波稳态网络的内部状态，实验证明了该方法的优越性和潜力。

Jun, 2024

本文研究了一种新型深度 ESN，包括并行深度 ESN 和级联深度 ESN，分析了它们的存储容量和预测准确度，并发现并行深度 ESN 比传统浅层 ESN 实现了更好的预测效果，而级联深度 ESN 存储容量小于传统浅层 ESN，但是能提高整体预测精度。

Jun, 2019