本文扩展了 seq2seq 模型，实现了对输入集的合理处理以及通过搜索可能的排序来处理输出集的缺乏结构，并提出相应的解决方案，最终在多项自然语言处理任务和两项人工任务中取得了良好的结果。

Nov, 2015

本文介绍了 Transformer Set Prediction Network (TSPN)，一种基于变换器的灵活的置换等变模型，用于集合预测，它在预测集合元素的质量和准确性方面超过了 DSPN，并测试了该模型在 MNIST-as-point-clouds (SET-MNIST) 和 CLEVR 数据集上。

Jun, 2020

本研究提出一种新的训练模式 One2Set 及利用对一组特定控制码的应用实现并行生成关键词集的新型模型，同时通过二分图匹配的 $k$-step 目标分配机制增加关键词生成的多样性和降低重复率，实验结果表明本方法显著优于现有最优方法。

May, 2021

本文介绍了一种用于文本到表格生成的新模型，该模型在考虑到多行中的大多数组合不敏感的情况下，首先采用文本编码器编码输入文本，再加入了一种表头生成器来以序列生成的方式输出表头，之后再使用具有可学习的行和列嵌入的表体生成器并行生成一组表身行，实验结果表明，此模型优于基线，达到了公认的数据集上的最佳性能。

May, 2023

本文提出了一种新的机器学习框架 —— 顺序集合生成 (SSG)，可以处理标签和序列输出集。通过采用适当正则化和循环生成新标签或序列以生成完整集合，SSG 在性质上顺序不敏感且适用于各种集合输出问题，如分类标签或序列。实验结果表明，SSG 对于基准方法具有良好的性能。

Mar, 2019

提出了一个 BART-based 条件生成模型，可以同时处理事件之间的时间排序和事件插入预测。使用延迟自编码器进行训练并证明了在不使用显式标签的情况下，该模型优于 BERT-based 方法和指针网络，并且在事件的时间上更优于 GPT-2 completion 模型。

Dec, 2020

通过交互依赖组件提升了注意力机制在 neural set encoding 的处理能力，提出了一个新的神经网络模型叫做 Set Interdependence Transformer，可用于处理各种基于集合的序列任务，如句子排序等。

Jun, 2022

本文针对预训练 Seq2Seq 模型的鲁棒性问题，提出了一种新的针对 Seq2Seq 模型提高准确性和信息性的敌对增强框架 ——AdvSeq，通过隐式敌对样本和交换敌对样本来提高 Seq2Seq 模型的鲁棒性，实验结果表明 AdvSeq 显著提高了 Seq2Seq 生成的可信度和信息性。

Oct, 2022

通过使用一种叫做 tag-set sequence learning 的新方法，TSS-Learner 模型可以从给定的陈述句中学习 tag-set sequence，在特定的文本中生成得到的问题和答案对，相比于 transformer-based 模型，其质量更高且更正常。

Oct, 2022

本研究提出了一种改进的 Seq2Seq 模型（RELA），在关系抽取中应用自动标签扩充的文本生成技术，即以关系名或其同义词作为生成目标，并分析了该模型的行为。实验结果显示，相比先前的方法，RELA 在四个关系抽取数据集上取得了竞争性结果。

Dec, 2022