神经网络的领域对抗性训练
本论文提出了一种新的深度架构领域适应方法,可通过大量源域标记数据和大量目标域未标记数据的训练而实现。在提出的方法中,深层特征在源域的主要学习任务上是有区分性的,而且对于域之间的变化具有不变性。而通过增加几个标准层和简单的梯度反转层的方法可以实现该适应行为,并且此方法在图像分类实验中表现非常出色。
Sep, 2014
本研究提出了一种针对领域自适应问题的新型表示学习算法, 其中训练和测试数据来自类似但不同的分布, 实验结果表明,我们的神经网络算法对领域适应具有更好的性能表现,而不管是标准神经网络还是支持向量机,即使是使用 Chen 等人提出的最先进的边缘化堆栈去噪自编码器的输入特征提取。
Dec, 2014
本文提出了一种可以同时学习源域标记数据和目标域未标记数据的适应分类器和可转移特征的深度网络领域适应新方法。改进了以往方法假设源分类器和目标分类器共享分类器的假设,并通过将多个层的特征与张量积融合并将它们嵌入可再生核希尔伯特空间来匹配特征适应的分布。实验结果表明新方法在标准领域适应基准上优于现有最先进的方法。
Feb, 2016
本文介绍了对抗学习的方法能够通过一般化的视角更好地理解前面的方法,并提出了一个新的对抗判别域自适应框架,称为ADDA,它将判别建模、解除权重共享和GAN损失结合在一起,优于竞争的域对抗方法,且在标准的跨域数字分类任务和一种新的更难的跨模态物体分类任务中超越了最新的无监督适应结果。
Feb, 2017
通过集群假设的视角,该研究提出了两个新的模型:结合领域对抗训练和对集群假设违反的惩罚的虚拟敌对领域自适应(VADA)模型以及采用自然梯度步骤进一步减小集群假设违反的Decision-boundary迭代细化训练与教师(DIRT-T)模型。广泛的实证结果表明,这两个模型的组合大大提高了数字,交通标志和Wi-Fi识别领域自适应基准的最新性能。
Feb, 2018
本文提出了一种基于结构化神经模型与领域特定和领域通用组件的联合学习以及领域对抗训练的方法,以优化域内和域外准确性,本方法在多领域语言识别和情感分析领域中的表现都优于标准领域适应技术和领域对抗培训。
May, 2018
本文提出一种新的无监督域适应方法——SymNets,它是基于一种对称的分类器设计的。我们提出了一种新的对抗学习目标,其中关键设计基于两级域混淆方案。我们还提出了一种跨域训练的方案来帮助学习目标分类器。针对常用的基础网络,我们的 SymNets 在三个基准域适应数据集上取得了新的最优性能。
Apr, 2019
本文提出了一种新的通用领域敌对框架,利用变分f-分歧的特征进行领域自适应。基于此框架,推导出了具有重要修正的新算法框架,并证明了其在自然语言和计算机视觉数据集上优于现有的基线结果。
Jun, 2021