当无监督领域适应遇见张量表示
本文提出了一种新颖的无监督域自适应方法,通过同时优化理论上建立的误差界的三个项,迭代搜索潜在的共享特征子空间,来降低数据分布差异并增加类间距离,以有效学习目标数据的预测器。同时,还考虑了数据异常值的影响以避免负面知识迁移。实验和分析验证了该方法的有效性和优越性。
Feb, 2018
本文提出了一种深度域自适应框架,采用鉴别偏差度量,并结合任务驱动域对齐鉴别器和域正则化器,以改进无监督域适应的性能,并在多项标准基准测试中证明了其优于现有技术的一致性。
Sep, 2019
我们提出了一种无监督领域适应方法,该方法通过使用类正则化的超图匹配,考虑目标域中仅有的未标记数据,在标准对象识别数据集上的实验验证了我们的框架有效性。
May, 2018
本文提出一种新的基于监督学习的域适应技术,利用最优传输方法和嵌入相似性技术,从少量样本中搜索最优类别相关转换,并在推理中选择相应的转换,能够减小领域差异,并在多个包括模拟和手写数据集的领域漂移时间序列数据集上进行了广泛的评估。
Apr, 2022
本研究提出了一种基于 Domain2Vec 模型进行视觉领域向量化表示的方法,并创建了两个大规模跨域基准测试集 TinyDA 和 DomainBank,实验表明该方法可以预测不同域之间的相似性,并优于现有领先的多源领域自适应方法。
Jul, 2020
本文提出了一种基于启发式搜索的领域不变和领域特定信息建模方法 —— 启发式领域自适应 (HDA),并通过导出启发式表示约束,提出了一种启发式领域自适应网络 (HDAN)。实验证明,该方法在无监督 DA、多源 DA 和半监督 DA 等任务上均超过了现有最先进方法。
Nov, 2020
通过集群假设的视角,该研究提出了两个新的模型:结合领域对抗训练和对集群假设违反的惩罚的虚拟敌对领域自适应(VADA)模型以及采用自然梯度步骤进一步减小集群假设违反的 Decision-boundary 迭代细化训练与教师(DIRT-T)模型。广泛的实证结果表明,这两个模型的组合大大提高了数字,交通标志和 Wi-Fi 识别领域自适应基准的最新性能。
Feb, 2018
本研究介绍了一种新的领域自适应算法,其中源域和目标域由特征向量所构成的子空间表示。通过学习将源子空间与目标子空间对齐的映射函数,我们的方法寻求一个不变的特征空间。我们提出了两种方法来确定超参数的大小,一种方法使用所得结果稳定性的理论边界来调整子空间的大小,另一种方法使用最大似然估计来确定子空间的大小。除了 PCA,我们还提出一种子空间创建方法,它在领域自适应中优于 PLS 和 LDA,并在各种数据集上对我们的方法进行了测试,结果表明它的性能优于现有的领域自适应方法。
Sep, 2014
通过将源领域和目标领域的数据点映射到共享嵌入空间中,训练映射编码器使嵌入空间变得与领域无关,从而使在源领域上训练的分类器能够在目标领域上很好地泛化。为了进一步提高无监督领域适应 (UDA) 的性能,我们提出了一种降低源领域内部分布紧密度的技术,从而提高模型在目标领域中的泛化能力。相对于嵌入空间中不同类别的数据表示之间的间隔,我们提高了 UDA 模型的性能。为了使内部表示更紧密,我们将源领域的内部学习多模态分布估计为高斯混合模型 (GMM)。利用估计的 GMM,我们增强了源领域中不同类别之间的分离性,从而减轻了领域转移的影响。我们提供了理论分析来支持我们的方法的优越性能。为了评估我们方法的有效性,我们在广泛使用的 UDA 基准数据集上进行了实证实验。结果表明我们的方法增强了模型的泛化能力,并超越了现有技术。
Jan, 2024
深度学习在许多领域都展现出其超凡表现,但仅仅依靠大量标记数据来训练模型并不能保证其在面临目标域的分布变化时仍有出色的表现,无监督域自适应通过利用源领域标记数据和目标领域未标记数据来解决该问题,并已在自然图像处理、自然语言处理等领域取得了许多令人期待的结果,该文对该领域的方法和应用进行了系统比较,并强调了当前方法的不足及未来研究方向。
Aug, 2022