域不变表示中的支持和可逆性
本文提出了一种学习方案,用于构建希尔伯特空间,以解决无监督和半监督领域自适应问题,并通过学习每个领域到潜在空间的投影来实现,同时最小化领域方差的概念,同时最大化区分力的测量。我们利用黎曼优化技术在不同领域中进行潜在空间中的样本之间的统计属性匹配。我们进一步认为共享相同标签的样本形成更紧凑的聚类,同时拉开来自不同类别的样本。我们针对手工制作和深度网络功能使用我们的提案进行全面评估和对比,并在视觉领域自适应任务中展示了我们的实验,即使是用简单的最近邻分类器,这种方法也可以胜过几种最先进的方法。
Nov, 2016
本文针对无监督域适应学习中常见的假设提出了简单反例,证明了这些假设并不足以保证域适应的成功;提出了一种基于信息理论的弱化条件,并证明了任何试图学习不变表示的域适应方法的联合误差都存在一种基本的权衡;最后,通过实验验证了理论结果。
Jan, 2019
本文研究使用先前为学习“公平表示”而开发的审查技术来解决域泛化问题。我们研究了$k$个域的对抗性损失函数及其渐近行为,并在此基础上获得了算法在以前未见过的域上良好最坏情况预测性能的充分条件。我们提供了完整的不变性特征描述,并为敌对不变域泛化提供了第一个形式化保证。
Jun, 2020
本文研究在无监督领域适应中,加权样本的重要性抽样策略与不变表征相互作用的理论方面,并提出了一种改进的学习算法,旨在加强归纳偏差,减轻适应过程中可能存在的标签偏移问题。
Jun, 2020
本论文提出了一种用于半监督域适应的算法LIRR,它能同时学习不变的表示和风险,并将特征空间中的边缘和条件分布对齐,实现了目标泛化能力的有意义提高。该算法在分类和回归任务上实现了最先进的性能和显著的改进。
Oct, 2020
本论文提出了一种基于对抗生成网络的方法,通过学习域间变换的不变性来实现域不变表示的学习,以解决领域泛化问题,并在多个广泛使用的数据集上取得了与最先进模型竞争的结果。
Feb, 2021
本研究探讨了多源领域自适应和领域泛化设置中的目标通用损失的上界和两种领域不变表示的定义,并研究了强制学习每个领域不变表示的优缺点和权衡,并通过实验来检查这些表示的权衡,探索了我们所开发的理论的其他有趣特性。
Nov, 2021
本文研究对象识别中不变表示的泛化性,经过广泛实验,我们证明了不变模型学习到的非结构化潜在表示对分配偏移具有鲁棒性,因此使不变性成为有限资源环境中训练的理想属性。
Apr, 2023
无监督领域适应问题中,为了准确评估边际和条件分布的差异,我们引入了柯西-斯瓦兹散度,该散度相比于常用的库尔巴克-莱布勒散度提供了更严密的理论广义误差界限,并能方便地用于源领域和目标领域在表示空间中的边际和条件分布差异的估计,而无需任何分布假设。多个示例验证了柯西-斯瓦兹散度在基于距离度量或对抗训练的无监督领域适应框架中的出色性能。
May, 2024