本研究提供了一种训练多领域、基于递归神经网络的语言生成器的程序，包含了多个适应步骤，并利用伪造数据和领域内句子的优化目标函数，旨在在新的、看不见的领域内显著减少培训的数据需求，其语料库评估结果和主观测试都表示该程序可以在保证 BLEU 分数和槽误差率竞争力的同时大幅提高语言生成器性能。

Mar, 2016

本文提出了一种支持多任务领域自适应的神经网络框架，并应用于中文分词和命名实体识别两个任务的领域自适应。实验结果表明，该框架比独立的领域自适应方法在两个任务上都获得更好的结果，并在社交媒体领域达到了最先进的水平。

Aug, 2016

本研究提出了一种简单而有效的适应 NMT 模型的方法，该方法是将微小的任务特定适配层注入预训练模型，能够同时适应多个不同的任务，并在两项任务中得到了验证，理论与全面的微调相当。

Sep, 2019

本文提出了一种简单的领域自适应方法，可以应用于使用交叉熵损失训练的神经网络，在字幕数据集上展示了该方法相对于其他领域自适应方法的表现提高。

Jul, 2016

本文介绍了一种利用深度神经网络结构实现转移学习的方法，通过在已有的资源上进行最大限度的重用，扩展了常见商业代理的理解能力，显著提高了低资源场景下准确性，并显著缩短了模型开发时间。

May, 2018

提出了一种新的学习方式：从头开始进行领域自适应，以便在隐私保护的情况下将 NLP 扩展到敏感领域。研究比较了几种方法，包括数据选择和领域自适应算法以及主动学习方法，在情感分析和命名实体识别等两个 NLP 任务上进行了验证，结果表明结合上述方法可以缓解领域差距并进一步提高结果。

Sep, 2022

本文提出了基于多任务学习框架的神经网络方法，采用循环神经网络来建模具有特定任务和共享层的文本，并在四个基准文本分类任务的实验中显示出该方法可以提高其他相关任务的性能。

May, 2016

本文研究使用预训练语言模型的转移学习、领域特定术语扩展词汇表以及利用未标记数据结构创造辅助合成任务等方法，在 IT 领域的三个任务中，采用逐步应用的策略在预先训练的 Roberta-large LM 上显示出显着的性能提升。

Oct, 2020

本研究通过研究不同领域和任务的分类模型，验证了在特定领域和任务上进行二次预训练（领域自适应和任务自适应预训练）可以显著提高性能，同时也发现多阶段适应预训练在任务表现上取得了大幅提升。

Apr, 2020

介绍了一种课程学习方法，将通用的神经机器翻译模型适应于特定领域，实验结果表明，在两个领域和两种语言对中，该方法始终优于基准模型。

May, 2019