基于循环神经网络集成的实时交互式序列生成和控制
本文对于近三十年来产生和实践了重要的循环神经网络(RNN),LSTM 和 BRNN 等模型的研究进行综述,旨在提供一个自成体系的最前沿阐述和历史视角,并引用了相关研究文献。
May, 2015
本研究论文表明长短时记忆循环神经网络可以用于通过逐个预测数据点来生成具有长距离结构的复杂序列。该方法通过文本和在线手写(其中数据为实值)进行演示,然后通过允许网络对文本序列进行条件预测,将其扩展到手写合成。结果系统能够以各种风格生成高度逼真的草书手写。
Aug, 2013
该文提出了一种递归控制递归网络 (RCRN) 架构,利用递归网络学习递归门控函数,将其用于不同自然语言处理任务,结果表明 RCRN 在比双向 LSTM 和双向 LSTM 堆叠表现更好,具有代替双向 LSTM 堆叠的潜力。
Nov, 2018
本文研究了将深度网络的多层表示与强大的 RNN 模型相结合的模型 - 深度递归神经网络,通过合适的正则化和端到端的训练方法,该模型在 TIMIT 语音识别基准测试中获得了最佳记录得分 17.7%。
Mar, 2013
在进行短程序评估方面,实验评估了 LSTM 在序列到序列范式中的表现和可学习性,并使用课程学习来提高网络性能,结果表明 LSTM 可以以 99% 的准确率训练生成能够计算两个 9 位数字加法的模型。
Oct, 2014
本研究提出了一种新的生成式深度学习网络,用于人体动作的合成和控制,通过结合循环神经网络(RNN)和对抗训练来进行优化。研究表明,该模型可以高效地生成自然流畅的动作序列,并通过各种比较与实验,证明其卓越性能和有效性。
Jun, 2018
本研究论文介绍了递归神经网络 (RNN)、 长短期记忆网络 (LSTM) 及其变体,在训练过程中解决长序列中的梯度消失 / 爆炸问题,并详细介绍了 LSTM 中的门控单元,双向 RNN 及 Embeddings from Language Model (ELMo) network 的原理。
Apr, 2023