本文提出了一个新的任务 —— 可控文本减缓 —— 来产生内容一致的文本，该任务的目标是生成一个有针对性的概括，重点关注标记的内容，并借助有监督学习方法进行实现。

Oct, 2022

基于大型语言模型（LLMs）进行可读性控制的文本生成是个性化应用的重要方向，本论文引入了一种名为 “Readability-Controlled Instruction Learning (ReadCtrl)” 的新方法，通过这种方法可以调整 LLMs，以适应用户的可读性水平。与传统方法不同的是，该方法引入了一种动态框架，使 LLMs 能够在各种复杂性水平上生成内容，从而增强了它们在不同应用中的适用性。研究结果表明，ReadCtrl-Mistral-7B 模型在人工评估中以 52.1%：35.7% 的胜率明显优于强大的基准模型，例如 GPT-4 和 Claude-3。此外，ReadCtrl 在自动评估中表现出显著改进，通过更好的可读性指标（如 FOG，FKGL）和生成质量指标（如 BLEU，SARI，SummaC-Factuality，UniEval - 一致性和连贯性），说明 ReadCtrl 在产生与目标可读性水平密切匹配的高质量、上下文适应性强的输出方面具有有效性和韧性，标志着 LLMs 在个性化内容生成方面的重大进展。

Jun, 2024

CTRLsum 是一种用于可控摘要的新型框架，它能够使用户通过文本输入关键词或描述性提示来控制生成摘要的多个方面，在不需要额外人工注释或预定义训练期间的控制方面的情况下，在三个领域的摘要数据集和五种控制方面中得到量化证明，并在 CNN/DailyMail 数据集上取得了最先进的结果。

Dec, 2020

本研究提出了一种新的神经编码 - 解码模型，它将内容选择与表面实现分离，实现了对生成文本内容的控制。该模型在数据到文本和标题生成任务中获得了有希望的结果，为文本生成中的可控内容选择铺平了道路。

Sep, 2019

该研究提出了一个基于自然语言的控制生成任务，可将一系列事实扩展为更长的叙述，并通过引入人类评估指标和大型训练数据集的方法评估了三种方法，证明了自回归的单向语言模型如 GPT2 的生成流畅度更好，但很难遵循所请求的事实，提出了一个基于计划和填空模型的解决方案（使用精细调整的 XLNet），其生成流畅度有竞争力，同时遵循所请求的内容。

Dec, 2020

本文介绍了一些控制文本生成的方法以增强语言生成模型的创造力和公平性，包括层级生成和约束解码，并应用于故事、诗歌、比喻语言的创意生成，以及减少生成模型的社会偏见。

Sep, 2022

本文提出了一种名为 “Click” 的可控文本生成方法，不需要修改模型架构，利用序列似然的对比损失和新颖的似然排名策略，能够在有毒语言、情感倾向和文本重复等方面相比其他控制型生成模型有更好的性能。

Jun, 2023

本文系统评述了基于预训练语言模型的可控文本生成技术的主要任务、方法和评价方法，并讨论了当前领域面临的挑战和未来研究方向。

Jan, 2022

发布了一个 1.63 亿参数的条件变换器语言模型 CTRL，它被训练用于控制由结构派生而来的控制代码来控制风格、内容和任务特定行为，从而提供更明确的文本生成控制。

Sep, 2019

本研究提出了一种基于用户评论的 CTR 驱动广告文本生成方法，该方法使用在线 A/B 测试数据进行对比学习以达到生成更高 CTR 的广告文本的目的，并针对低资源问题设计了自定义自监督目标。实验结果表明，该方法显著优于当前的方法，并在主要在线度量标准上带来提升。

May, 2022