Apr, 2016

基于神经注意力模型的汉语韵律诗歌生成

TL;DR本文利用基于注意力机制的序列到序列模型生成中国宋词。通过双向 LSTM 模型对提示句进行编码,再通过基于注意力的 LSTM 模型预测整个倚仗,可以通过输入线索的细微结构来规范化生成过程。研究了几种技术来改进模型,包括全局上下文整合,混合式风格训练,字符向量初始化和适应性。通过自动和主观评估结果表明,我们的模型确实可以学习到宋词复杂的结构和韵律模式,且生成成功。