域自适应的最大密度差异
本文介绍了对抗学习的方法能够通过一般化的视角更好地理解前面的方法,并提出了一个新的对抗判别域自适应框架,称为ADDA,它将判别建模、解除权重共享和GAN损失结合在一起,优于竞争的域对抗方法,且在标准的跨域数字分类任务和一种新的更难的跨模态物体分类任务中超越了最新的无监督适应结果。
Feb, 2017
本文提出了一种新的方法——Wasserstein Distance Guided Representation Learning (WDGRL),其利用神经网络来估计源域和目标域之间的Wasserstein距离,并以对抗的方式来优化特征提取器网络,以最小化估计的Wasserstein距离,该方法在情感和图像分类自适应数据集上的实证研究表明其优于现有的领域不变表示学习方法。
Jul, 2017
通过集群假设的视角,该研究提出了两个新的模型:结合领域对抗训练和对集群假设违反的惩罚的虚拟敌对领域自适应(VADA)模型以及采用自然梯度步骤进一步减小集群假设违反的Decision-boundary迭代细化训练与教师(DIRT-T)模型。广泛的实证结果表明,这两个模型的组合大大提高了数字,交通标志和Wi-Fi识别领域自适应基准的最新性能。
Feb, 2018
本文提出部分域自适应作为一种新的域自适应场景,旨在将现有大型域中的深度模型转移到未知小型域中,通过下调异常源类别数据来训练源分类器和域对手,同时匹配共享标签空间中的特征分布来同时缓解负迁移并促进正迁移,实验证明这种方法在多个数据集上的部分域自适应任务中超越了现有的最先进结果。
Aug, 2018
本文提出了一种非对称松弛分布对齐的方法来解决领域适应中标签分布偏移问题,并找到了合理的理论假设条件来支撑该方法,证明了该方法在合成和真实数据集上的实际效果。
Mar, 2019
本研究从理论和算法角度探讨了无监督域自适应的问题,并引入了一种名为Margin Disparity Discrepancy的新测量方法,成功地将该理论转化为一种对抗学习算法,极大地提高了域自适应的状态。
Apr, 2019
本研究提出在深度神经网络中结合域随机映射(Domain Mixup)的方法用于域自适应领域, 研究表明该方法在如处理不同程度的域漂移和数据复杂度的任务中具有卓越的性能。
Dec, 2019
本文提出了一种新的通用领域敌对框架,利用变分f-分歧的特征进行领域自适应。基于此框架,推导出了具有重要修正的新算法框架,并证明了其在自然语言和计算机视觉数据集上优于现有的基线结果。
Jun, 2021
研究了分布变化和对抗样本在机器学习模型部署中的两个主要挑战,并提出了一种新的防御框架DART,通过独特的领域适应度及损失函数建立的一般性界限,显著提高对抗鲁棒性。
Feb, 2024
无监督领域适应问题中,为了准确评估边际和条件分布的差异,我们引入了柯西-斯瓦兹散度,该散度相比于常用的库尔巴克-莱布勒散度提供了更严密的理论广义误差界限,并能方便地用于源领域和目标领域在表示空间中的边际和条件分布差异的估计,而无需任何分布假设。多个示例验证了柯西-斯瓦兹散度在基于距离度量或对抗训练的无监督领域适应框架中的出色性能。
May, 2024