本研究将文本编辑作为一项模仿游戏，使用行为克隆方法将传统序列转序列数据转化为状态 - 操作演示，通过引入双解码器结构来并行解码操作，实现对操作之间的依赖进行保留，以及利用轨迹增强技术缓解模仿学习常常遇到的分布偏移问题。对一组算术方程基准测试进行了实验，结果显示该模型在性能、效率和稳健性方面均优于自回归基线。期望该研究成果能为以后在强化学习中应用序列级操作生成的自然语言处理研究提供启示。

Oct, 2022

我们提出了一种新颖的非自回归文本编辑方法，通过使用潜在的 CTC 对齐模型来解决 Seq2Edit 方法中存在的生成固执性和推广到其他语言的困难问题。我们通过在编辑空间中引入复制操作对 CTC 进行关键扩展，从而更有效地处理文本重叠。我们的实验证明，我们的方法在语法错误校对和句子融合任务上明显优于现有的 Seq2Edit 模型，并且与 Seq2Seq 相比，速度提高了 4 倍以上，并在德语和俄语上表现出良好的一般化能力。深入分析揭示了我们的方法在各种情境下的鲁棒性和生成流畅灵活的输出的优势。

Oct, 2023

本文提出了一种通过多步编辑的方式，建立生成序列的生成模型，以及训练该模型的神经网络，并基于多步编辑提出了基础结果和度量标准。实验结果表明，所提出的模型在相关下游任务上的表现优于以往单步编辑模型的表现。

May, 2022

本文介绍了文本编辑模型和 seq2seq 模型，分析了它们的优缺点，探讨了生产化和应对文本生成中的幻觉和偏见等挑战。

Jun, 2022

非自回归（NAR）语言模型在神经机器翻译（NMT）中以低延迟著称。然而，由于较大的解码空间和准确捕捉目标单词间的依赖关系的困难，在 NAR 模型和自回归模型之间存在性能差距。为了解决这些挑战，我们将强化学习（RL）应用于编辑型 NAR 模型的典型例子 Levenshtein Transformer，通过使用自生成的数据，证明 RL 可以提高编辑型 NAR 模型的性能。我们探索了两种 RL 方法：逐步奖励最大化和情节奖励最大化，讨论了这两种方法的优缺点并进行了实证验证。此外，我们在实验中研究了温度设置对性能的影响，确认正确的温度设置对 NAR 模型的训练的重要性。

May, 2024

研究提出了一个名为 SequenceMatch 的方法，将序列生成问题转化成了一种模仿学习问题，并采用回溯策略和特定的训练目标以优化文本生成过程中的错误，经实验证明，该方法在语言模型的文本生成任务中比 MLE 更加优秀。

Jun, 2023

通过检索训练样本并进行编辑来生成复杂输出的方法，特别是源代码生成，最近已经被广泛使用。本文提出了一种有效的方法，即使用基于任务的嵌入式检索模型，使生成器基于输入直接编辑生成输出，且在新的 GitHub Python 代码和 Hearthstone 卡牌基准模型上实现了改进效果。

Dec, 2018

EdiT5 是一种新颖的半自回归文本编辑模型，可在比传统的序列到序列（seq2seq）模型更快地推理时，能够建模灵活的输入 - 输出转换。该模型将生成过程分解成三个子任务：标记、重新排序和插入。EdiT5 的性能比 T5 在低资源环境下更好，对句子融合、语法错误更正和去文本化等 NLG 任务具有可比性。

May, 2022

本文提出了一种在样本中学习的课程学习策略，通过从生成最后几个单词到整个输出序列，逐渐提高模型难度，推广应用于不同任务并取得了显著性能提升。

Nov, 2022

提出一种适用于结构化数据的增量编辑模型，以树状结构数据为例，采用编辑编码器和模仿学习方法，实现树的连续渐进式变换，与采用单次直接生成的编辑方法相比，明显提高精度和健壮性。

Jan, 2021