本文提出了使用全容量矩阵优化可微分流形上的酉矩阵的全容量 URNN，以解决循环神经网络中的梯度消失和爆炸问题，并证明了该参数化在隐藏状态维度大于 7 时具有受限制的容量，实验结果表明新模型在合成和自然数据上均具有优异的性能。

Oct, 2016

本文提出了一种新的神经网络架构，该架构学习一个特殊的方阵作为权重矩阵，使得隐藏层矩阵的特征值绝对值为 1，避免了权重矩阵导致的梯度问题；通过在复杂域中考虑隐藏状态并极具表达能力的参数化方法，为学习长期依赖任务带来了先进的结果。

Nov, 2015

该研究使用卷积指数函数，将反对称或反 - 厄米卷积核变换为正交或幺正卷积核，用于解决递归神经网络中的梯度消失问题，并通过提出 FFT 算法来优化计算。

Feb, 2023

本文提出了一种轻量级循环单元（SRU），用于解决基于状态计算的传统循环神经网络因难以实现高度并行化而难以扩展的问题。SRU 具有表达力强、高度可并行化、易于训练等特点，在多个自然语言处理任务上表现出色，并且在分类和问答数据集上实现了 5-9 倍的速度提升，优于 LSTM 和卷积模型。同时，将 SRU 引入到 Transformer 模型中，可以在翻译任务上平均提高 0.7 BLEU 分数。

Sep, 2017

本文提出了一种基于秩 - k 更新或其秩 - k 近似的高效方法，名为 projUNN-D 和 projUNN-T Unitary Neural Networks，用于实现全 N 维幺正或正交矩阵的参数化，从而提高深度神经网络的训练效率及模型性能。

Mar, 2022

本研究提出了一种称为连续循环单元 (CRUs) 的神经网络架构，它可以自然地处理不规则的时间间隔观察数据。研究发现，这种架构具有时间上的连续性和优化集成嘈杂观察的门控机制。我们在挑战性数据集上对 CRU 进行了实证研究，并发现它比基于神经微分方程的方法更好地插值了不规则时间序列。

Nov, 2021

本文提出了一种简单的循环神经网络架构，即傅里叶循环单元 (FRU)，它稳定了训练中出现的梯度，同时为我们提供了更强的表现能力。具体而言，FRU 使用傅里叶基函数概括了沿时间维度的隐藏状态 $h^{(t)}$，使得由于残差学习结构和三角函数的全局支持，梯度可以轻松地到达任何层。我们还展示了 FRU 具有与时间维度无关的梯度下限和上限，以及得到 FRU 强表现力的稀疏傅里叶基的优势。我们的实验研究还表明，与其他循环架构相比，所提出的架构在许多任务上具有更少的参数且表现更好。

Mar, 2018

本文提出了用由修正线性单元组成的循环神经网络，并采用单位矩阵或其缩放版本来初始化循环权重矩阵来解决长期依赖性的问题，并在四个基准测试中证明了我们的解决方案与 LSTM 相当。

Apr, 2015

本文提出了一种使用 Kronecker 分解逼近梯度的 KF-RTRL 算法，通过在一个合理的假设下，理论分析表明，引入的噪音稳定，且渐近比 UORO 算法小，对于一类大的 RNNs，KF-RTRL 是一个无偏差和内存高效的在线学习算法，实验结果表明 KF-RTRL 算法可用于学习长期依赖性的任务上，并在一些任务上与 TBPTT 算法性能相当，提出了基于 RTRL 的方法可能是 TBPTT 的有前途的替代方法。

May, 2018

本文提出了一种使用斜对称矩阵参数化 Cayley 变换来维持正交循环权重矩阵并克服负特征值限制的更新方案，在多个实验中证明了比其他单元 RNN 的表现更优秀，需要的可训练参数更少。

Jul, 2017