本研究提出了一种基于 AMR 的修改短语生成模型 (AMRPG)，该模型通过对抽象含义表示进行编码，从而在语法控制和短语生成质量方面显着提高了非监督学习方法的性能，并可用于数据增强以改善 NLP 模型的鲁棒性。

Nov, 2022

ParaFusion 是使用大型语言模型（LLM）开发的大规模高质量英语改写数据集，旨在解决现有数据集中语法和词汇多样性不足、与原始句子十分相似以及包含仇恨言论和噪音等问题，为提高自然语言处理（NLP）应用提供了一个更加干净和专注的资源。

Apr, 2024

使用神经机器翻译系统，通过 beam search 生成多个候选翻译样本，选择词汇最多样化的一对生成句式相似，语义丰富、跨 17 种语言的人工合成平行释义语料库，并用 BLEU 对比了其与 ParaBank2，结果表明其生成的句子语义类似而且词汇丰富度较高。

May, 2022

使用神经机器翻译将大型平行语料库的非英语部分翻译为英语，生成超过五千万个英语句子的同义句数据集 PARANMT-50M，该数据集可用于同义句生成，提供丰富的语义知识以改善下游自然语言理解任务。我们使用 PARANMT-50M 训练了同义句嵌入，能在所有 SemEval 基于语义相似度的比赛中胜过所有监督系统，并展示了它在同义句生成中的应用。

Nov, 2017

通过引入简单的改进算法，不鼓励生成输入中已有的 N-grams，利用多语言神经机器翻译模型生成同义句，控制输入和输出之间的词汇多样性，人工评估表明，该方法比基于 ParaBank 2 的同义句生成器更好地维护意义和语法正确性，并且在两种非英语语言上也同样有效。

Aug, 2020

本文提出了一种将改写生成任务视为无监督机器翻译的新方法，通过将大规模无标签单语语料库拆分成多个簇并使用这些簇的对训练多个 UMT 模型，然后基于这些 UMT 模型生成的改写语句对，可以训练出一个统一的代理模型，用于生成改写句子，该方法避免了对双语句对的依赖，同时也可以让人类干预模型，使用不同的过滤标准生成更多元的改写语句。在现有的改写数据集上进行的实验表明了该方法的有效性。

Sep, 2021

本文介绍如何使用包含一致结构的训练数据作为语料库级别的释义，并将释义视为外语词汇进行 Neural Machine Translation 的训练。本方法表现出比过去的单词或短语级别的方法更好的效果，并且在使用多种语言的平行释义进行训练时表现最佳。该方法提高了翻译的 BLEU 分数，增加了词汇选择的熵和多样性。

Aug, 2018

用低阶适配的对抗性训练方法提出了第一个无监督多语言释义模型 LAMPAT，实验证明该方法不仅在英文上效果好，还可以推广到看不见的语言。

Jan, 2024

本文提出了使用两个单独的定义对同义改述进行识别和生成的必要性，并介绍了一个新的 Twitter 多主题同义改述 (MultiPIT) 语料库，该语料库由两种不同的同义改述定义的众包和专家注释组成，用于同义改述识别，以及一个多参考测试集和一个大型自动构建的训练集，用于同义改述的生成。通过改进数据标注质量和任务特定的同义改述定义，最好的预训练语言模型在我们的数据集上进行微调，达到了 84.2 F1 的最先进性能；此外，我们的实证结果还表明，使用 MultiPIT_Auto 训练的同义改述生成模型与在其他语料库上微调的同义改述生成模型相比，可以生成更多样化且高质量的同义改述。

Oct, 2022

提出了 ParaSCI，这是第一个在科学领域内的大规模释义数据集，包括来自 ACL（ParaSCI-ACL）的 33,981 对释义和来自 arXiv（ParaSCI-arXiv）的 316,063 对释义。通过收集对同一篇论文的引用或聚合科学术语的定义等方法，我们挖掘了科学论文的特点和共同模式，并且提出了 PDBERT 作为一种通用的释义发现方法来利用部分释义的句子。ParaSCI 的释义具有突出的长度和文本多样性的优点，这与现有的释义数据集相补充。ParaSCI 在人类评估和下游任务中获得了令人满意的结果，尤其是长篇释义生成方面。

Jan, 2021