本文介绍了基于 RNN 的 AI (RNNAIs) 框架及其在强化学习中的应用，该框架旨在学习其初始未知环境的预测模型，并在抽象推理和决策制定方面对其进行询问和利用，实现了 “学习思考” 的目标。

Nov, 2015

本文研究了一种深度学习方法，将强化学习和监督学习结合，通过长短时记忆网络对隐藏状态的表示进行学习，在部分可观测任务中表现出了很好的性能。

Sep, 2015

本文提出了一种基于神经模块的组成式学习方式，探讨了在连续强化学习模型下的可重复利用子问题解决方案，并且通过离线重放经验保持表现以加速未来任务学习的累积神经组件复合持续强化学习方法。

Jul, 2022

本文提出了一种名为深度元强化学习的方法，该方法使用递归网络，在一个强化学习算法上进行训练，但其递归动态实现第二个、完全分离的强化学习过程，通过一系列七个验验证明了这种方法的潜在优势并提出了其可能引发的神经科学方面的重要影响。

Nov, 2016

本文探讨了循环神经网络（RNN）的组合泛化能力，并在查找表合成域中测试了标准 RNN 的组合行为，发现少量 RNN 仍能达到部分组合解决方案。研究表明，通过梯度下降和直接支持更多组成方法的进化策略的结合，可能足以引导标准 RNN 向组合解决方案发展。

Feb, 2018

利用递归神经网络生成神经网络模型描述，并通过强化学习训练，使生成的结构在验证集上的预期精度最大化，可以在多个数据集上实现新型神经网络模型设计，其中 CIFAR-10 模型的测试误差率为 3.65％，优于先前采用类似结构的 SOTA 模型； 在 Penn Treebank 数据集上，生成的递归单元的测试置信度比先前 SOTA 模型提高了 3.6 和 1.214。

Nov, 2016

本文利用定时自动机来介绍一系列监督学习任务，建立在隐藏时间变量和复杂性直接可控的行为模型基础上，通过研究倒置的时间特征，证明基于动态系统理论的工具可以不仅提供模型学习方案的见解而且能够证明训练过程的动力学。

Jun, 2023

本文提出了一种利用预训练环境学习有用技巧并在下游任务中加速学习的框架，该框架结合了内在动机和分层方法的优点，使用 Stochastic Neural Networks 和信息理论正则化器高效预训练一组可解释技巧，并在下游任务中显著提高学习性能。

Apr, 2017

这篇论文提出了一种引入储备计算的重放记忆方法，在这种方法中，使用多层神经网络作为读出层可以提高基于递归神经网络的强化学习在四种控制任务中的学习性能。

Mar, 2022

深度强化学习中的元强化学习通过学习可以进行少样本训练的方式来解决样本低效问题。本文通过实证调查发现，当与超网络结合时，远比现有专门方法更简单的循环网络可以实现最强的性能。

Sep, 2023