研究了神经抽象摘要的领域适应问题，发现预训练模型利用提取式摘要可以提高摘要质量，同时结合域内和域外数据可以获得更好的摘要效果，但对于目标领域的风格要求域内数据。

Jul, 2017

本研究探讨了在低资源环境下，针对六个不同领域的抽象摘要任务中，利用大规模生成模型进行领域自适应预训练的有效性。实验表明，预训练的有效性与预训练数据与目标任务的相似度相关，同时发现预训练会导致预训练模型的灾难性遗忘，但使用一种遗忘较少的学习方法可以缓解这个问题。此外，结果表明低资源和高资源的差距仍然很大，需要更先进的领域自适应方法来解决抽象摘要任务中的问题。

Mar, 2021

本文提出了一种方法，利用大型预训练模型和多样的现有语料库，解决低资源抽象摘要化问题，在各种写作风格和形式的摘要语料库上实验证明，我们的方法仅使用 0.7％的可训练参数与以前的工作相比，在低资源情况下实现了 6 个语料库的最新技术水平。

Feb, 2021

本文讨论大型语言模型在特定领域摘要文本生成中的局限性，特别指出了基于 Transformer 的模型复杂度与模型崩溃的问题，并探讨了解决现有研究中存在的问题的相关技术。

Jul, 2023

该论文通过域转移和数据综合的方法，研究了当应用于学生反思材料等小型文集时，如何提高最近的抽象摘要方法的性能，得到了更高的 ROUGE 分数。

Feb, 2020

通过对领域之间的文本进行预训练和微调，我们探索了抽象文本摘要模型在关键词选择任务中的效果，并发现在样本数量有限的情况下，领域间的转移学习可以提高模型性能。

Dec, 2023

在新闻、个人故事、会议和医学文章等领域，我们使用深度学习模型进行摘要实验，以了解如何进行内容选择。我们发现，许多最先进的抽取式摘要生成器的先进功能并不能提高性能。这些结果表明，为新领域创建摘要生成器比先前的工作所建议的要容易，并质疑深度学习模型在摘要生成方面为那些具有大规模数据集（即新闻领域）的领域带来的好处。与此同时，他们提出了新的摘要研究的重要问题；换句话说，需要更适合摘要任务的新型句子表示或外部知识源。

Oct, 2018

该研究对带有多个数据来源的领域转移进行了详尽的调查，发现了一些有效的方法并提出了一种新的有效方法 DAL-E，并探讨了选定的示例和域具有的特性。

Feb, 2022

通过研究两个大型语言模型 CodeT5 和 Codex 在代码领域外具有的一般化能力，我们发现多任务学习与少许训练数据的微调相结合的方法能够很好地适应不同域的代码摘要和生成需求。

Mar, 2023

本文介绍了一个关于在情感分析中领域适应的研究。我们对领域相似度度量进行了广泛的研究，提出了新的表示方法、度量方法和数据选择。在推文和评论的大规模多领域适应设置中，我们评估了所提出的方法，并证明了它们一致地优于强随机和平衡的基线方法，而我们的选择策略优于实例级选择，并在大型评论语料库上获得了最佳分数。

Feb, 2017