自然语言处理中的神经非监督领域自适应 -- 一项调查

COLINGMay, 2020

自然语言处理中的神经非监督领域自适应 -- 一项调查

Neural Unsupervised Domain Adaptation in NLP---A Survey

Alan Ramponi, Barbara Plank

TL;DR本篇综述针对最近的研究进展，对不需要标记目标领域数据的神经无监督领域自适应技术进行了概述，包括从传统非神经方法到预训练模型迁移的方法，并揭示了自然语言处理任务类型中存在的偏见问题以及未来的研究方向，特别是面向 NLP 的超分布通用化需求。

Abstract

Deep neural networks excel at learning from labeled data and achieve state-of-the-art resultson a wide array of natural language processing tasks. In contrast, learning from unlabeled data, especially under domai

neural networks unsupervised domain adaptation natural language processing pre-trained model transfer out-of-distribution generalization

发现论文，激发创造

无监督深度域适应综述

该研究论文对深度学习与非监督领域自适应进行了综述并对其中一些方法进行了比较，同时探讨了应用领域及未来研究方向。

Dec, 2018

深度无监督域自适应：近期进展和展望综述

深度学习在许多领域都展现出其超凡表现，但仅仅依靠大量标记数据来训练模型并不能保证其在面临目标域的分布变化时仍有出色的表现，无监督域自适应通过利用源领域标记数据和目标领域未标记数据来解决该问题，并已在自然图像处理、自然语言处理等领域取得了许多令人期待的结果，该文对该领域的方法和应用进行了系统比较，并强调了当前方法的不足及未来研究方向。

Aug, 2022

从头开始的域自适应

提出了一种新的学习方式：从头开始进行领域自适应，以便在隐私保护的情况下将 NLP 扩展到敏感领域。研究比较了几种方法，包括数据选择和领域自适应算法以及主动学习方法，在情感分析和命名实体识别等两个 NLP 任务上进行了验证，结果表明结合上述方法可以缓解领域差距并进一步提高结果。

Sep, 2022

深度神经网络无监督域适应

本文介绍了现有的领域自适应方法的分析，提出了一种新的方法，证明了在不同领域中改进视觉识别任务的潜力，为领域自适应领域的进一步研究和发展开辟了机遇。

Jul, 2023

单源深度无监督视觉域自适应综述

本文综述了最新的单源深度无监督域适应方法，主要集中在视觉任务中，并讨论了未来研究的新视角。首先介绍了不同领域适应策略的定义和现有基准数据集的描述，然后总结和比较了不同类别的单源无监督域适应方法，包括基于差异性的方法，对抗式鉴别方法，对抗式生成方法和自监督方法，并探讨了未来的研究方向、挑战和可能的解决方案。

Sep, 2020

面向神经机器翻译的无监督领域自适应与领域感知特征嵌入

提出一种通过使用语言建模来学习领域感知特征嵌入，在多个实验中提高神经机器翻译性能的方法，该方法允许使用者指定特定领域的文本表示。

Aug, 2019

参数增强的神经网络域适应

本文提出了一种简单的领域自适应方法，可以应用于使用交叉熵损失训练的神经网络，在字幕数据集上展示了该方法相对于其他领域自适应方法的表现提高。

Jul, 2016

领域对抗神经网络

本研究提出了一种针对领域自适应问题的新型表示学习算法，其中训练和测试数据来自类似但不同的分布，实验结果表明，我们的神经网络算法对领域适应具有更好的性能表现，而不管是标准神经网络还是支持向量机，即使是使用 Chen 等人提出的最先进的边缘化堆栈去噪自编码器的输入特征提取。

Dec, 2014

领域自适应简介

本文关注的是无监督领域适应问题，该问题中只在源域内提供标签。文章试图从不同角度解释领域适应的类别，并提出了一些成功的浅层和深层领域适应方法。

Oct, 2020

简化版神经网络无监督域自适应

本文研究了无监督领域自适应的方法，使用神经网络学习表示来预测重要特征的子集，并探讨了联合训练表示和任务学习者、现有枢轴选择方法的重要性。

May, 2019