提出了一个包含多头神经网络的不变学习框架,名为 EDNIL,用于吸收数据偏差并提高模型对分布转变的鲁棒性。该算法无需先前环境知识或对预训练模型的强假设,并具有与变体和不变特征的性质研究相连接的理论基础。实验证明,使用 EDNIL 训练的模型在分布转变下具有更强的鲁棒性。
Aug, 2023
通过提出连续不变性学习方法,我们在理论上证明了这种方法相较于现有的不变性学习方法具有优越性,并通过实证结果在合成和真实数据集上验证了其卓越的性能表现。
Oct, 2023
本研究提出了一种新框架可以同时学习环境分区和不变的表示,并在合成和真实数据集上进行了实验证明其改进的性能。
Mar, 2022
通过环境增强不可能学习到图中的不变表示,所以提出了一种基于可行假设的不变图学习框架 GALA,利用助手模型来识别不变子图从而成功实现 OOD 泛化。
通过学习来自多个环境的数据,提出在模型学习中,使用部分不变性(Partial Invariance)来放宽 Invariant Risk Minimization(IRM)的假设条件,从而在语言和图像数据上进行实验并得出结论。
Jan, 2023
本论文提出了基于领域自适应的方法,将无监督训练样本中的领域信息作为辅助信息,采用学习的鉴别性领域嵌入构建领域自适应模型,用于即使在未见过领域上的预测任务。该方法在各种领域泛化基准上均实现了最先进的性能,并引入了首个现实世界的大规模领域泛化基准 Geo-YFCC,相对于现有的方法,该基于领域自适应的方法在该数据集上实现了显着的优化。
Mar, 2021
基于多个环境中的行为演示来学习模仿策略,通过学习跨域不变的特征表示,构建与专家行为匹配的模仿策略,以实现在未见环境中的泛化能力。
Nov, 2023
通过多任务学习,我们引入了一种两阶段表示学习技术,旨在从跨越多个领域的特征中培养一个潜在空间,包括原始和跨领域的特征,以增强在未见过的内部分布和外部分布领域的推理能力。此外,我们试图通过最小化先验和潜在空间之间的互信息来解耦潜在空间,从而有效地消除虚假特征之间的关联性。总体而言,这种联合优化将促进领域无关的特征学习。我们使用标准分类指标在多个网络安全数据集上评估模型的有效性,并将结果与当代领域泛化方法进行对比。
Dec, 2023
本文针对无监督域适应学习中常见的假设提出了简单反例,证明了这些假设并不足以保证域适应的成功;提出了一种基于信息理论的弱化条件,并证明了任何试图学习不变表示的域适应方法的联合误差都存在一种基本的权衡;最后,通过实验验证了理论结果。
Jan, 2019
本研究提出了一个放松完全不变性假设的条件分布放缓变化,称之为因果关系不变性,并证明它是零样本和少量样本策略泛化的足够充分条件。
Jun, 2023