利用 BERT 预训练语言模型，结合领域适应性方法和知识蒸馏算法，提出了一种简单而有效的无监督领域适应方法，称为对抗适应与蒸馏，在 30 个领域对跨领域情感分类的任务中取得了最先进的性能。

Oct, 2020

本研究提出了一种基于句法导向域自适应模型的新颖跨领域 ABSA 方法，该方法利用句法结构相似性构建伪训练实例，同时引入一种基于句法的 BERT 掩码语言模型以进一步捕获领域不变特征；最后，为了减轻跨领域 End2End ABSA 中的情感不一致问题，引入了基于跨度的联合方面和情感模块。在五个基准数据集上的实验结果表明，与现有模型相比，我们的模型在跨领域 End2End ABSA 任务的微 F1 指标方面始终表现出色。

Nov, 2022

本研究提出一种基于知识蒸馏的领域自适应技术，针对多源无监督情感分析数据集，在考虑多个教师及其领域专业性的基础上，实现了最优结果，并提出一种可信度度量方法，用于选择高置信度示例及解决单一源情况下的领域适应问题。

Feb, 2017

在研究神经网络将文本描述翻译成 SQL 查询方面，在零射跨域设置下取得了显著进展，但是现有的文本到 SQL 模型在面对训练数据中很少出现的领域知识时不具有普适性。本文介绍了一种人工筛选的数据集 Spider-DK，用于研究文本到 SQL 模型在需要应用很少出现的领域知识时的预测表现。在 Spider-DK 中，我们通过添加反映现实世界问题的领域知识来修改一些 Spider 的样本，并证明当样本需要这种领域知识时，预测准确率显著下降，即使该领域知识出现在训练集中，模型对相关训练样本的预测仍然正确。

Sep, 2021

本文介绍了 TA-DA，一种面向科学文档的关键短语提取方法，其采用多任务学习、对抗训练和领域自适应相结合的框架，在确切匹配 F1 分数上的表现比基准模型提高了 5%。

Dec, 2022

本文提出了一种新的基于分类树的域自适应方法，在经过实验检验后发现，与传统方法相比，在分类效果上有了很大的提升。

Jun, 2023

本文针对现代深度学习神经网络模型需要大量手动标注数据以及从大量文本数据中构建领域特定知识图谱的困难问题，提出一个将知识图谱自适应和重新学习应用于不需要手动注释训练数据的领域适应性构建的综合框架，并引入了一种新的迭代训练策略来促进领域特定命名实体和三元组的发现和抽取，实验结果表明，该框架可以有效执行领域适应和构建知识图谱的任务。

Nov, 2022

本文提出了一种使用计算有效的适配器方法在多个不同领域适应的方法，其通过冻结预先训练的语言模型并与每个节点相关联的适配器权重组合，实现相关领域之间的参数共享。GPT-2 和 C4 中最多的 100 个网站上的实验结果表明，这种方法可以全面提高领域内性能，并提供了一种推理时间算法来推出新领域的泛化性能，同时只能增加成本。

Dec, 2021

通过简单的词汇转换来减少源域数据集与目标域数据集之间的领域转变，使得模型在变换后的源域数据集上表现明显优于零样本模型，在转换为推特的英文上达到了 92.14% 的无监督词性标注准确率，仅略低于 94.45% 的监督效果，同时利用提出的转换方法来合成推特并增强推特数据集的表现达到了最先进的词性标注性能。

Jul, 2023

提出一种通过使用语言建模来学习领域感知特征嵌入，在多个实验中提高神经机器翻译性能的方法，该方法允许使用者指定特定领域的文本表示。

Aug, 2019