本篇论文系统研究了利用包含解码技术的序列到序列模型（Sequence-to-Sequence，简称 S2S）开展的语音识别、命名实体识别、组成性和依赖分析等任务。作者设计和评估了三种不同的线性化模式及相对应的约束解码模式，进行了实验比较，结果表明，使用本文方法的 S2S 模型优于其他采用外部资源的 S2S 方法，并得到了优异的性能。

Feb, 2023

介绍了 Twist 解码这一简单通用的文字生成算法，该方法利用多样的模型来提高性能，在机器翻译和科技论文摘要等场景下表现出色，鼓励学者和实践者共同研究生成模型，寻找互补优势。

May, 2022

本文旨在评估现代多文档摘要模型在混合输入时是否能够适当地综合输出，并提出了一种改进模型综合能力的方法，即通过生成多样的候选输出并在这些中选择与期望聚合度量最能匹配的字符串或在模型产生的候选项不好时选择回避。

Jan, 2023

将语音文字（S2T）摘要分为级联和端到端两种模型，并使用预训练的 T2T 摘要提取器进行迁移学习，进而将其应用于在线上传的广播新闻中。结果表明，端到端模型要略逊于级联模型，但都优于提取式基线模型。

Jun, 2023

本文研究了现有的 seq2seq 预训练模型中存在的问题，提出了一种基于编码器自监督学习的预训练策略 E2S2，并通过在多个自然语言理解和生成任务中的实验证明了其可行性及有效性。

May, 2022

HydraSum 是一种新的总结架构，通过多个解码器自动学习不同样式的摘要并提供了一种简单机制以获得样式多样的摘要，同时使用训练期间的小改动可以实现对生成空间多个维度的变化。

Oct, 2021

研究开发了一种新的序列混合模型，通过采用一组专业翻译模型而非单个模型来提高翻译的多样性和质量，并在四种语言对上进行了实验。

Oct, 2018

本文研究聊天机器人开放领域的回答生成。我们提出了一种动态词汇序列到序列（DVS2S）模型，它允许每个输入在解码时拥有自己的词汇。DVS2S 避免了许多通用模式和无关单词的生成，并同时享有高效的解码。实验结果表明 DVS2S 的回答质量明显优于最先进的方法，但仅需要 60％的解码时间。

Nov, 2017

本文提出在端对端语音摘要（E2E SSum）模型中集成预训练语言模型来解决数据稀缺问题，并通过迁移学习来减少编解码器之间的差距。实验证明，该模型表现优于基线和数据增强模型。

Jun, 2023

本文介绍了两种新颖的方法，利用大量外部文本摘要数据为 E2E SSum 训练提供支持，分别是使用 TTS 系统生成合成语音进行训练，以及使用输入音素序列而非合成语音直接训练模型。实验证明，这些方法在 How2 数据集上改进了多个指标，并且是第一篇使用外部语言资源进行 E2E SSum 的工作。

Mar, 2023