神经网络对抗训练的多源域适应
在深度学习时代,由于很难获得大规模标记数据来训练先进的深度神经网络,因此将已学习的知识从有标签的源领域转移到无标签或稀疏标签的目标领域成为一种吸引人的替代方法,而多源领域适应则是在收集有不同分布的多个源的标记数据中的一个强大而实用的扩展。在本次调查中,我们首先定义了各种多源领域适应策略。接着,我们从不同的角度系统地总结和比较了现代多源领域适应方法,以及常用的数据集和一个简单的基准测试结果。最后,我们讨论了值得探索的多源领域适应的未来研究方向。
May, 2024
本文提出一种新的多源领域自适应 (MDA) 框架,通过设计一个端到端的多源对抗性域聚合网络 (MADAN) 来解决领域自适应中的像素级对齐和任务特征不对齐等挑战,并通过在数字识别、对象分类和模拟到真实语义分割等领域进行广泛的实验,证明 MADAN 和 MANDA + 模型的优越性。
Feb, 2020
本文提出一种多重对抗领域自适应方法 (MADA),能够捕获多模态结构,利用多个领域判别器实现不同数据分布的精细对齐,利用随机梯度下降计算梯度,证据表明该模型在标准领域自适应数据集上优于现有最先进方法。
Sep, 2018
本文介绍一种新的多源域自适应方法 —— Mutual Learning Network for Multiple Source Domain Adaptation (ML-MSDA)。通过互补学习的框架,该方法将目标域与每个单一源域配对,使用条件对抗性域自适应网络作为分支网络进行训练,并将组合后的多源域和目标域一起作为引导网络进行训练。多个分支网络与引导网络对齐,通过在相应目标数据上通过 JS 分歧正则化约束其预测概率分布来实现互补学习,该方法在多个多源域自适应基准数据集上进行了广泛的实验。结果表明,ML-MSDA 方法优于比较方法,并实现了最新的性能表现。
Mar, 2020
该论文提出了一种新的多源蒸馏领域自适应(MDDA)网络,该网络考虑了多个源和目标之间的不同距离以及源样本与目标样本的不同相似性,通过预先训练源分类器、将目标映射到每个源的特征空间、选择最近的源样本进行微调和使用不同的域权重对不同预测进行聚合等四个阶段实现。实验表明,该方法明显优于现有的方法。
Nov, 2019
本文提出了一种多源领域自适应的新型框架 MADAN,其中包括通过动态语义一致性生成每个源的适应域,通过子域聚合鉴别器和交叉域循环鉴别器使得不同的适应域更紧密地聚合,以及在训练分割网络时对聚合域和目标域进行特征级对齐。实验表明,MADAN 模型优于现有的最先进方法.
Oct, 2019
本文提出了一种多源领域自适应方法,称为多源情感生成对抗网络(MSGAN),用于视觉情感分类,通过循环一致性对抗性学习以端到端的方式,MSGAN 可以学习找到一个统一的情感潜在空间,其中来自源域和目标域的数据共享类似的分布。对四个基准数据集进行的广泛实验表明,MSGAN 在视觉情感分类方面明显优于最先进的多源领域自适应方法。
Jan, 2020
提出了一种新的多源域自适应方法 Pseudo Target for MDA (PTMDA),采用敌对学习与度量约束将每组源和目标域映射到特定的子空间,并构造了一系列伪目标域进行训练以提高性能。此外,为提高深度神经网络的传递性,用有效的匹配规范化层代替传统批规范化层,给出理论分析和实验探究证明了该方法的有效性。
Feb, 2022
多源领域自适应算法通过回归问题的两步骤流程,提供了在多个源领域利用信息进行预测的方法,其中使用了灵活的单源自适应算法和集成学习,通过多种学习范式在目标适应学习器中实现线性组合,改进了预测性能。
Dec, 2023