证明有限精度下具有 ReLU 激活函数的 RNN 和 GRU 等神经网络具有等价于确定性有限自动机 (DFA) 的计算能力，如果允许任意精度，则具有至少与下推自动机 (PDA) 相同的计算能力，如果同时允许无限精度，无限边权和非线性输出激活函数，则 GRU 具有至少与下推自动机相同的计算能力。

Jun, 2019

通过研究基于递归神经网络的语言模型（LMs）的计算表达能力，本文通过扩展图灵完备性结果到概率情况，展示了有理加权 RLM 在无界计算时间下可以模拟任何概率图灵机。相反，在实时计算限制下，这些模型可以模拟确定性的实时有理 PTM。

Oct, 2023

本研究着眼于 RNN 模型的计算资源需求问题，提出了一种通过降低权重与偏置数值精度的方法来优化模型计算的解决方案，并在两种主要的 RNN 模型及三个数据集上进行了实验，结果表明使用随机和确定性三值化、pow2 - 三值化和指数量化方法均能生成低精度的 RNN 模型，并在某些数据集上甚至能获得更高的准确率，从而为开发特殊低功耗硬件的 RNN 训练提供更加高效的实现途径。

Nov, 2016

本研究探究了 LSTM、ReLU 和 GRU 模型在长序列计数任务的泛化能力，并发现虽然先前的理论工作已经建立了具有适当配置的 RELU 激活和 LSTM 的计数能力，但是 LSTM 模型在实验中仍无法学习到正确的计数行为，并且从验证损失及不同模型的失效方式等角度对问题进行了讨论。

Nov, 2022

通过将递归神经网络语言模型连接到概率有限状态自动机，我们重新审视了递归神经网络语言模型的表征能力，并证明具有线性边界精度的递归神经网络语言模型可以表示任意的正则语言模型。

May, 2024

本研究对长短期记忆网络的归纳学习能力进行了实证评估，发现在不同的训练设置下模型性能存在显著差异，并强调在提出神经网络模型的学习能力时需要进行仔细的分析和评估。

Nov, 2018

本文研究了 RNN 语言模型对概率分布的表示能力，发现简单的 RNN 等效于概率有限状态自动机，能够表示有限状态模型可表达的概率分布的严格子集，同时研究了用 RNN 表示确定性有限状态语言模型的空间复杂度。这些结果对于了解 RNN 语言模型的能力和限制具有重要意义。

Oct, 2023

本文研究了作为识别加权语言的形式模型的简单循环神经网络（RNN）的各种问题的计算复杂性，其中我们专注于单层、ReLU - 激活、有理权重的 RNN，其使用广泛应用于自然语言处理应用程序。本文表明，这种 RNN 的大多数问题都是不可判定的，包括一致性、等价性、最小化和确定最高加权字符串。但对于一致性 RNN，最后一个问题变成可判定的，但其解决方案的长度可能超过所有可计算的界限。如果该字符串长度也被限制在多项式长度，那么该问题就变成了 NP - 完全的并且是 APX - 难的，因此本文表明了在这些 RNN 的实际应用程序中，逼近算法是必要的。

Nov, 2017

循环神经网络（RNN）被认为是在相对温和且普遍的条件下对动态系统进行普适逼近的工具，但通常在标准 RNN 训练中面临梯度消失和梯度爆炸问题。为解决这些问题，引入了一种特殊的 RNN，即储层计算（RC），其循环权重是随机化并且未经过训练，此方法在自然语言处理和无线通信等领域表现出卓越的实证性能，特别适用于训练样本极为有限的情况。本研究证明了 RNN 可以普遍逼近线性时不变（LTI）系统并提供了 RC 在泛化 LTI 系统中的解释。我们通过清晰的信号处理解释和理解，利用 RC 对一个通用的 LTI 系统进行了模拟。在这个设置下，我们分析了生成 RC 的未经训练的循环权重的最优概率分布函数，并进行了大量的数值验证。我们的工作提供了基于信号处理的 RC 模型可解释性，并为设置而非训练 RC 的未经训练循环权重提供了理论解释。这是朝着可解释机器学习（XML）的重要步骤，尤其适用于训练样本有限的应用。

Aug, 2023

研究了线性单细胞网络的理论分析与实证分析，揭示了此类模型保持精确计数行为的必要和充分条件，并发现在标准方法下训练时，线性 RNN 不满足精确计数的条件。

Apr, 2023