本文介绍了 Grid Long Short-Term Memory，这是一种由 LSTM 单元组成的多维网格网络，可用于向量、序列或图像等更高维的数据。该网络在现有深度 LSTM 架构中的不同之处在于单元不仅在网络层之间连接，也连接在数据的时空维度上，提供了一种统一的使用 LSTM 进行深层次和序列计算的方法。我们将模型应用于 15 位整数加法和序列记忆等算法任务，发现其能够显著优于标准 LSTM。我们还给出了两个实证任务的结果。2D Grid LSTM 在维基百科字符预测基准测试中达到了 1.47 位 / 字符，这是神经方法中的最佳结果。此外，我们使用 Grid LSTM 定义了一种新的二维翻译模型 Reencoder，并表明其在中英翻译任务上优于基于短语的参考系统。

Jul, 2015

本文介绍了一种称为 Independently Recurrent Neural Network 的新型递归神经网络，其具有分层连接、神经元不相互依赖以及可适用于非饱和激活函数等特点，实验结果表明该网络较传统的递归神经网络、长短时记忆网络在多种任务上表现更好。

Mar, 2018

我们提出了一种实时连续控制和 “掌控” 序列生成的方法，使用一组循环神经网络和动态改变模型混合权重，并使用基于字符的长短时记忆网络和手势界面演示了该方法。

Dec, 2016

该研究论文介绍了一种基于权重共享概念的新型 LiteLSTM 体系结构，通过减少 LSTM 的计算组件来降低整体架构成本和维护架构性能，从而提高学习大数据的效率，尤其适用于物联网设备和医学数据的安全性，同时有助于减少 CO2 排放。该模型在计算机视觉和网络安全领域的两个不同数据集上进行了实证评估和测试。

Jan, 2022

引入 Phased LSTM 模型，通过添加带有频率范围的参数化振荡的新时间门控制的 LSTM 单元扩展，使得模型更适合处理来自不同传感器且具有不同更新间隔的不规则采样数据，即异步事件流，可在具有长序列的学习任务中以较少的计算次数运行，既适用于处理传感器信号，也适用于标准的 RNN 应用。

Oct, 2016

提出了 GP-LSTM 模型，利用可闭合表达式内核，在保留高斯过程非参数概率优势的同时，完全包含了 LSTM 递归神经网络的归纳偏置，能够很好地用于处理序列数据，提升了自动驾驶等领域的预测准确性。

Oct, 2016

本文中介绍了一种基于多维 LSTM 的递归图像模型，该模型可以捕获长距离像素之间的统计依赖，适用于纹理合成和补全等多项任务，并在多个图像数据集上的定量比较中表现优异。

Jun, 2015

本文介绍了一种利用低秩分解和参数共享技术来学习紧凑的循环神经网络（LSTM）的机制，探究了在不损失性能的情况下完善紧凑结构的可能性，并且发现在底层使用结构矩阵，在顶层使用共享低秩因子的混合策略特别有效，在 2000 小时英语语音搜索任务上将标准 LSTM 的参数减少了 75%，仅仅增加了 0.3% 的误差率。

Apr, 2016

本文对于近三十年来产生和实践了重要的循环神经网络（RNN），LSTM 和 BRNN 等模型的研究进行综述，旨在提供一个自成体系的最前沿阐述和历史视角，并引用了相关研究文献。

May, 2015

本文介绍 LSTM 模型的结构和前向传播机制，提出了 Random Connectivity LSTM（RCLSTM）模型，并通过在电信网络交通预测和用户移动性中的应用证明了 RCLSTM 模型可实现相同的预测准确性，同时具有计算复杂度更低的优点

Oct, 2018