生成诗歌或歌词涉及到几个创作因素，而其中一个具有挑战性的方面是对较严格的韵律和押韵模式的遵循。为了解决这一挑战，之前的工作主要集中在逆向语言建模上，我们提出了一种新的微调方法，通过将押韵的词语放在每个歌词的开头，使关键的押韵决策可以在模型承诺歌词内容之前进行，与常规的预训练语言模型的词序兼容。我们进行了广泛的实验，与当前最先进的押韵策略进行了比较，发现我们的方法生成的文本更可读，韵律能力更好。此外，我们提供了一个高质量的英文和其他 12 种语言的数据集，分析了该方法在多语言环境中的可行性，提供了大量实验结果，阐明了歌词生成的良好和不良实践，并提出了比较方法的度量标准。

May, 2024

本文探讨了基于神经语言模型和音节的诗歌生成问题，在 Dante Alighieri 的作品中进行了实验分析，结果表明生成的三行诗在句法、语法和诗歌风格上与 Dante 的真正作品相差不大。

Aug, 2019

本文提出一种机制，将两个分别训练的语言模型结合起来，旨在生成符合期望歌曲结构的输出，同时提供丰富的词汇量，从而提高其创造力。

Nov, 2018

本文提出了一个新的层次框架，用于生成十四行诗，不需要训练。该框架包括内容规划模块、韵脚模块和润色模块，并设计了受约束的解码算法以实现生成的十四行诗的韵律和韵脚约束。自动和人工评估表明，该框架比几个强基线更具连贯性、诗意和创造性。

May, 2022

本研究提出了一种无监督的方法来生成符合任何指定的韵律和押韵方案的诗歌，利用变形器语言模型通过在常规的非诗歌语料库中拆分短语，并在每个短语前添加描述其长度和结束韵的控制代码进行训练。实验表明，这种方法能够生成有效的诗歌，并且与人类写的诗歌在质量上相当。

May, 2022

本文提出了一种联合架构，用于捕捉十四行诗的语言、韵律和节奏。我们使用众包和专家评估生成的诗歌的质量。研究表明专家评估对诗歌生成的重要性，并且未来的研究应该超越韵律、节奏，注重诗意语言。

Jul, 2018

本文研究以图像为输入生成多行诗歌的任务，通过提出多个深度神经网络模型，包括一个深度视觉 - 诗歌嵌入模型、一个多模式鉴别器和一个诗歌风格鉴别器，并且通过多重对抗性训练方法，实现跨模态关联和保证诗意的诗歌生成能力。实验结果表明，本论文提出的方法优于现有的诗歌生成算法。

Apr, 2018

SongNet 是一个基于 Transformer 的自回归语言模型，用于生成音乐歌词、十四行诗、宋词等格式严格的文本，相比于其他模型，在格式、韵律和句子完整性等方面都有较大改进。

Apr, 2020

通过强化学习算法训练的编码器 - 解码器重述模型生成多样化的对抗性示例，在两个文本分类数据集上实验证明该模型的成功率高于原始的重述模型，并且总体上比其他竞争性攻击更有效，同时讨论了关键设计选择如何影响生成的示例以及该方法的优势和弱点。

May, 2024

本研究提出了一种基于约束学习的半监督学习方法，利用黑盒模拟器生成未标记数据进行训练并通过对抗训练实现生成模型的训练，提高模型在多种任务上的表现。

May, 2018