本论文提出了一种基于对抗生成网络的方法,通过学习域间变换的不变性来实现域不变表示的学习,以解决领域泛化问题,并在多个广泛使用的数据集上取得了与最先进模型竞争的结果。
Feb, 2021
本文针对无监督域适应学习中常见的假设提出了简单反例,证明了这些假设并不足以保证域适应的成功;提出了一种基于信息理论的弱化条件,并证明了任何试图学习不变表示的域适应方法的联合误差都存在一种基本的权衡;最后,通过实验验证了理论结果。
Jan, 2019
本文研究对象识别中不变表示的泛化性,经过广泛实验,我们证明了不变模型学习到的非结构化潜在表示对分配偏移具有鲁棒性,因此使不变性成为有限资源环境中训练的理想属性。
Apr, 2023
本文研究使用先前为学习 “公平表示” 而开发的审查技术来解决域泛化问题。我们研究了 $k$ 个域的对抗性损失函数及其渐近行为,并在此基础上获得了算法在以前未见过的域上良好最坏情况预测性能的充分条件。我们提供了完整的不变性特征描述,并为敌对不变域泛化提供了第一个形式化保证。
Jun, 2020
该研究使用多种潜在领域混合的方式来提高神经网络的领域泛化能力,通过聚类将样本分为不同的领域,并通过对抗学习训练领域不变特征提取器来发现潜在领域,并利用风格特征进行聚类,达到不需要使用领域标签的领域泛化模型的训练。该方法表现优于传统的领域泛化方法,包括使用领域标签的方法。
Nov, 2019
本篇论文研究机器学习模型在不同测试分布的情况下表现不佳且过度估计它们的表现的问题,并提出一种基于领域不变性预测模型的方法来更好地估计模型在转移学习领域的性能,从而实现了领域自适应和对给定模型在分布转移情况下进行准确的目标误差估计,并可以用于模型选择、决定早期停机和错误检测。
Jul, 2020
该研究论文提出了一个公平且对比度特征空间正则化的算法,名为 FOND,旨在学习可以转移源领域知识的、用于表示在特定领域中仅存在的类的广义表示。实验结果表明该算法在提高特定领域类别的泛化表现上取得了最先进的效果,并提供了可行的数据增强实用技巧。
Jun, 2023
该论文提出一种学会学习的方法,通过学习辅助损失本身来提高模型的泛化能力,进而应用于领域推广的问题,包括传统领域推广和异构域推广。实验结果表明,该方法在两种情况下优于现有的解决方案。
本论文表明,领域泛化的目标不仅仅是考虑到类别标签,还包括特定因果特征,并提出了一种基于匹配的算法来实现该目标,该算法通过数据增强的方式观察基本对象并近似目标结果,结果表明该算法优于先前方法。
通过多任务学习,我们引入了一种两阶段表示学习技术,旨在从跨越多个领域的特征中培养一个潜在空间,包括原始和跨领域的特征,以增强在未见过的内部分布和外部分布领域的推理能力。此外,我们试图通过最小化先验和潜在空间之间的互信息来解耦潜在空间,从而有效地消除虚假特征之间的关联性。总体而言,这种联合优化将促进领域无关的特征学习。我们使用标准分类指标在多个网络安全数据集上评估模型的有效性,并将结果与当代领域泛化方法进行对比。
Dec, 2023