本文提出一种基于文本生成模型的协作域前缀调整方法，用于跨领域命名实体识别任务，实现知识在不同领域之间的迁移，提高模型对多源领域的处理能力。实验结果表明，该方法灵活、可靠，优于当前主流的同类方法。

Jan, 2023

本文提出了使用分布式词表示有效地将一个领域中学习的模型适应到其他领域的方法，并分析了不同领域之间的语言变异以识别可以提高性能的语言见解，提出了捕捉词汇用法的领域特定语义的方法，并演示了如何有效地使用此类领域特定知识来学习在领域适应设置中优于以前基准的 NER 模型。

Dec, 2016

本文研究了在机器翻译领域中适配器的组成方法，旨在实现多领域和多语言（全资源场景）的参数效率适配，或在无法提供特定语言对的平行数据（部分资源场景）中的跨语言转移。适配器通常由语言特定的适配器和领域特定的适配器组成，但这篇论文发现了将两种适配器简单组合的方法往往会造成缺失语言的灾难性遗忘，因此提出了新的适配器组合方式以减轻这一问题，并最大程度地实现跨语言转移。通过此种最佳适配器组合方式，我们实现了在没有场内数据的源语言上平均提高 3-4BLEU，而在没有场内数据的目标语言上与反向翻译相结合也达到了类似的改进。

Oct, 2021

本文研究神经网络结构在新闻信息提取任务上的应用，并针对不同领域应用的性能下降问题，提出一种轻量而有效的域适应方法，无需使用源域数据进行重新训练，在社交媒体等新兴领域中具有显著的应用价值。

Oct, 2018

本研究提出了一种轻量级调整范式（即 LightNER），借助可插拨提示来进行低资源 NER，克服了目标领域与资源丰富的源领域有不同标签集合的挑战，实验结果表明，LightNER 在标准监督设置中可以获得可比较的性能，在低资源环境下优于其他强基线模型，并且能更好地跨领域转移知识

Aug, 2021

该研究介绍了一种新颖的神经网络模型，使用多任务学习来提高光学字符识别（OCR）的效率和泛化能力，并通过有效降低训练参数数量来保持高准确性，以适应新领域，提供领域特定性能改进而无需重新训练。该模型在开放数据集上经过严格评估，证实了其作为可扩展和适应性解决方案的潜力，在计算机视觉领域，尤其是光学文本识别应用中具有重要的意义。

Jan, 2024

本文提出了一种使用计算有效的适配器方法在多个不同领域适应的方法，其通过冻结预先训练的语言模型并与每个节点相关联的适配器权重组合，实现相关领域之间的参数共享。GPT-2 和 C4 中最多的 100 个网站上的实验结果表明，这种方法可以全面提高领域内性能，并提供了一种推理时间算法来推出新领域的泛化性能，同时只能增加成本。

Dec, 2021

提出了基于适配器的多域 Transformer 语言模型，在只有小型适配器及其相关层的情况下，该模型可以进行多域自适应，并可以重复使用全细调的语言模型，从而可有效减少模型维护成本。使用这种方法，观察到具有适配器的通用 LM 在词错误率方面优于专用音乐领域 LM。

Aug, 2020

本文介绍了一种基于 Transformer 和对抗适应的命名实体识别方法，可以利用同一领域或混合域的无标注语料库进行大规模的特征学习和消除过拟合，以解决法语和其他资源相对有限的语言中 NER 任务的问题。实验结果表明，该方法在各种组合的 Transformer 模型、源数据集和目标语料库方面均优于没有自适应的模型。同时，本文还表明，对大规模无标注语料库进行对抗性适应可以帮助减小在使用预训练于较小语料库上的 Transformer 模型时的性能下降。

Jan, 2023

本文描述我们在 SemEval 2022 任务 11 中使用 Transformer 层自适应地整合多个预训练语言模型进行实体识别，在波斯语和荷兰语方面表现优异。

May, 2022