领域自适应的判别式主动学习
本文提出了一种新的领域适应的表示学习方法,使用神经网络架构从源域的有标签数据和目标域的无标签数据中推断出训练的特征,该方法增加了标准层和一个新的反向梯度层,可以在文本情感分析、图像分类以及人员重新识别等任务中有效实现领域适应。
May, 2015
通过集群假设的视角,该研究提出了两个新的模型:结合领域对抗训练和对集群假设违反的惩罚的虚拟敌对领域自适应(VADA)模型以及采用自然梯度步骤进一步减小集群假设违反的Decision-boundary迭代细化训练与教师(DIRT-T)模型。广泛的实证结果表明,这两个模型的组合大大提高了数字,交通标志和Wi-Fi识别领域自适应基准的最新性能。
Feb, 2018
通过适应特征规范实现域适应来解决目标任务的模型性能下降问题,该方法将标准域适应和部分域适应统一计算,并且在 Office-Home 数据集上取得了 11.5% 的性能提升,在 VisDA2017 数据集上取得了 17.1% 的性能提升。
Nov, 2018
本文针对无监督域适应学习中常见的假设提出了简单反例,证明了这些假设并不足以保证域适应的成功;提出了一种基于信息理论的弱化条件,并证明了任何试图学习不变表示的域适应方法的联合误差都存在一种基本的权衡;最后,通过实验验证了理论结果。
Jan, 2019
提出了一种积极学习的方法,通过敌对领域自适应(AADA)进行表示转移,其探索了两个相关问题之间的双重性:敌对领域对齐和重要性采样来适应跨域模型, 以及将两种方法结合在一个框架中进行领域自适应和转移学习,当源域有许多标记示例而目标域没有时,它提供了重要的改进。
Apr, 2019
本文提出一种名为3CATN的方法,利用条件生成对抗网络和特征翻译实现跨域知识转移,解决了当前生成对抗模型中平衡挑战的致命弱点,并在大量实验中展现了当前最先进的表现。
Sep, 2019
论文旨在设计主动学习策略,实现基于Lipschitz函数假设的领域自适应。通过对Mansour等人(2009)的先前工作进行补充,我们将源和目标分布之间的差异距离概念适应于假设类的最大化,来局限于在源域上执行准确标记的函数类。我们针对满足正则条件的一般损失函数导出了这种主动学习策略的推广误差边界,用于兰德马赫平均值和局部差异度量。从理论边界中推导出实用的K-medoids算法,可以处理大数据集的情况。我们的数值实验表明,在领域自适应的情况下,特别是在约十万个图像的大数据集上,所提出的算法与其他最先进的主动学习技术具有竞争力。
Mar, 2021
本文介绍了一种基于能量模型的主动学习策略,名为“EADA”,可用于帮助将深度神经网络推广到新的目标域。该算法通过求解目标数据组的自由能量,结合领域特征和实例不确定性,从中选择最有价值的目标数据样本。此外,领域差可以通过调整目标数据的自由能量使之紧凑地围绕源域,从而得到有效缩小。实验表明,该算法在各项基准测试中表现良好,比其他先进方法有很大的优势。
Dec, 2021