本文定义了能够为句子产生分布的概率模型，最佳表现的模型将每个单词视为线性转换算子应用于多变量高斯分布，并通过从定义的模型中进行训练，演示了实现句子特定性的自然方式。虽然我们的模型是整体最佳表现的，但通过句子向量的范数表示来表示句子的特异性的简单架构也能够表现句子的特异性。质性分析表明，我们的概率模型捕获了句子涵盖并提供了分析单词特异性和精确性的方法。

May, 2020

本篇论文研究了一种使用深度生成模型（VAE）与序列到序列模型（LSTM）相结合的方法来自动生成给定句子的同义句，相对于现有方法具有更好的性能和简洁的模块化结构。

Sep, 2017

使用翻译数据作为词表示模型的语义相关学习信号的源，利用翻译中的等价性作为分布式上下文进行联合嵌入和对齐，通过概率归一化的隐变量词汇对齐实现嵌入词，并比较上下文中的词的重叠度。应用于多个语义任务上获得了良好的性能表现。

Feb, 2018

本文提出了一种无需人工标注的数据集构建方法，使用双语文本语料来 fine-tune Transformer 语言模型，并加入一个循环池层构建出有效的特定语种句子编码器，该方法在单张图形卡上使用不到一天时间训练，在波兰语的八个语言任务上实现了高性能，超越了最好的多语言句子编码器。

Jul, 2022

介绍了一种适用于高级自然语言处理的句子向量编码框架，该框架可以从编码器 - 解码器模型中提取具有相似向量表示的常见语义信息的句子 latents 表示。我们将句子表示的应用用于两个不同的任务 -- 句子复述和段落摘要，使其适用于常用的循环框架处理文本。实验结果有助于深入了解向量表示适用于高级语言嵌入。

Sep, 2018

研究使用 Paraphrase Database 监督学习通用的、同义句的句子嵌入，比较 6 种组成结构并在相似度数据集和三个 NLP 任务上进行评估，在领域内复杂的结构（如 LSTM）有更好的性能，但在领域外使用简单架构如词平均比 LSTM 表现更好，同时演示如何将预训练的句子嵌入与监督任务相结合。

Nov, 2015

本文提出了一种获取基于句子嵌入的方法，通过引入约束来确保生成的近义词句子嵌入与原始句子嵌入相似，此方法在惯用数据集上的近义词生成和情感分析任务中要优于最先进的方法，并且是具有统计意义的。

Jun, 2018

该研究提出了一种基于编码 - 注意 - 解码范式的查询式摘要模型，具有查询注意模型和多样性基于注意模型。实验表明，该模型相对于基础模型具有 28% 的 ROUGE-L 分数的增益。

Apr, 2017

本文提出了一种基于编码 - 解码架构的深度生成模型，采用附加的转换器将句子转换为其重述潜在代码并使用 Wassertein GAN 对真实和生成的语义组句样本的分布进行比较，结果表明模型可生成具有可靠性和流畅性的变化丰富的语义重述样本，并取得了最先进的结果。

Sep, 2019

本篇论文开发了一种新的 Seq2Seq 模型，该模型将一个复制解码器和一个受限生成解码器融合在一起，并利用一个预测器来预测复制或重写的模式以确定最终输出，在两个不同的复述数据集上进行广泛的实验，结果表明我们的模型在信息量和语言质量方面均优于现有的最先进方法。

Nov, 2016