领域自适应中理论和算法的桥梁
本文介绍了一种针对域自适应问题的新型分布距离度量——偏差距离,并给出了不同损失函数的估计方法以及普遍推广界限。同时,本文也探讨了偏差距离减少和多种损失函数的最小化算法,并验证了其在不同应用场景的有效性。
Feb, 2009
本文提出了新的域自适应算法,优于以前的差异最小化算法,不像以前的算法那样在训练样本上具有固定的损失权重重新加权,我们的算法有坚实的理论基础和更有利的学习界限,并提供了一种有效的解决其优化问题的方法,实验结果表明该算法优于差异最小化。
May, 2014
本文介绍了一种基于MCSD的多类域间自适应的学习方法(Multi-class Domain-adversarial learning Networks (McDalNets)), 通过使用数据相关的 PAC 常数, 研究了其有效性, 并引入了结合了领域混淆和歧视的新型敌对策略的域对称网络(SymmNets)来提高多类域间自适应性能。
Feb, 2020
本文提出了一种使用离线课程学习和代理分布的边际差异方法来消除标签噪声和特征噪声的领域自适应算法,并将其无缝转化为一个对抗网络进行联合优化,在存在噪声的环境下,与现有技术相比取得了超过10%的准确度提高。
Apr, 2020
本文提出了一种新的域自适应方法Adversarial Tight Match(ATM),它结合了对抗训练和度量学习的优点,使用Maximum Density Divergence(MDD)来量化分布差异,使其能够在经典和大型基准测试上实现新的最先进性能。
Apr, 2020
本研究通过理论证明了 MMD 对源域和目标域内类距离进行最大化,并连带减少它们的方差以降低特征可分性;同时分析了内类距离和间类距离的关系,提出了一种新的基于判别性 MMD 的方法,实验表明其在几个基准数据集上的效果优于现有方法。
Jul, 2020
本文提出了一种跨域梯度分歧最小化方法,使用聚类自监督学习获得目标伪标签,显式地最小化源样本和目标样本生成的梯度差异,以提高目标样本的准确性,实验证明该方法优于许多先前的最新技术
Jun, 2021
本文提出了一种新的通用领域敌对框架,利用变分f-分歧的特征进行领域自适应。基于此框架,推导出了具有重要修正的新算法框架,并证明了其在自然语言和计算机视觉数据集上优于现有的基线结果。
Jun, 2021
我们改进了Acuna等人提出的无监督领域自适应(UDA)的理论基础,通过改进他们基于f-差异度的不一致性,并引入一个新的度量,即f-域差异度(f-DD)。通过去除绝对值函数并结合一个缩放参数,f-DD产生了新的目标误差和样本复杂度界限,使我们能够恢复先前基于KL的结果,并弥合了Acuna等人(2021)提出的算法与理论之间的差距。利用一种定位技术,我们还开发了一个快速学习界限。实证结果表明,在流行的UDA基准测试中,基于f-DD的领域学习算法比以前的工作表现更优秀。
Feb, 2024
无监督领域适应问题中,为了准确评估边际和条件分布的差异,我们引入了柯西-斯瓦兹散度,该散度相比于常用的库尔巴克-莱布勒散度提供了更严密的理论广义误差界限,并能方便地用于源领域和目标领域在表示空间中的边际和条件分布差异的估计,而无需任何分布假设。多个示例验证了柯西-斯瓦兹散度在基于距离度量或对抗训练的无监督领域适应框架中的出色性能。
May, 2024