May, 2018

有限精度RNN在语言识别中的实际计算能力

TL;DR本文研究了有限精度的RNNs,证明LSTM和Elman-RNN with ReLU activation比RNN with a squashing activation和GRU更加强大,可以实现计数行为,并且实验证明了LSTM学习了有效地使用计数机制。