神经元覆盖引导的领域泛化
本文综述了神经网络模型不同抽象级别的概念、建模方法和最近的研究发现,包括网络模型的概括、分布、域、任务、模式和范围的泛化,着重于在各泛化层次上存在的问题,例如过拟合问题和域适应问题。
Sep, 2022
本篇论文提出了一种基于模型的域泛化方法,通过对数据生成过程和同变性条件的建模,将域泛化问题转化为一个无限维的有约束统计学习问题,并利用非凸对偶理论发展了有约束松弛的统计问题,提出了具有收敛保证的域泛化算法,并在 ColoredMNIST,Camelyon17-WILDS,FMoW-WILDS 和 PACS 等基准测试中取得了高达 30 个百分点的改进。
Feb, 2021
通过引入多个特定于源域的分类器,利用预测目标样本属于每个源域的概率进行最优融合,并引入一个域不可知组件来支持最终分类器,我们的深度学习模型在两个公共基准测试上表现出很强的泛化能力。
Jun, 2018
本论文提出一种隐私保护的约束域泛化方法,通过在集中式服务端的信息聚合过程中应用新颖的梯度对齐损失,以期提高模型的泛化能力,将训练模型更好地泛化到 “未见过” 的但相关的医学图像
May, 2021
本文提出了一种针对领域泛化问题的替代神经网络结构,该结构可以关注卷积神经网络的多个层次,利用可训练的注意机制来实现鲁棒的数据分类,同时在已有的四项领域通用基准测试中表现良好。
Apr, 2023
深度神经网络在人工智能领域带来了革命性的进展,但面对分布转移时常常缺乏性能。传统神经网络假设训练和测试数据服从同一分布,然而实际应用中这一假设经常被违反。元学习作为一种有前景的方法,通过获取可传递的知识来快速适应各种任务,从而消除了从头学习每个任务的需求。本文基于特征提取策略和分类器学习方法的新分类法,全面调查了元学习在领域泛化方面的贡献,详细介绍了该领域的基础知识,并提供了关于未来研究方向的实践见解和深入讨论。
Apr, 2024
本研究提出了一种新的域通用泛化(DG)解决方案,将其重新构建为域之间的凸博弈,以及使用基于超模的正则化项来鼓励每个多样化的域增强模型泛化能力,并构造一个样本筛选器来消除低质量样本的影响, 从而证明我们的方法的合理性和有效性。
Mar, 2023
通过结合多层和多尺度的特征,利用深度卷积神经网络来提高图像分类器的领域泛化能力,并提出了一种新颖的目标函数,使用对比学习的方法约束提取的特征在分布转移下保持不变,实验证明该方法在多个数据集上均表现出与之前方法相比更好的性能。
Aug, 2023
本文主要介绍了如何利用深度学习和 CNN 模型处理领域泛化问题,建立起一个更加完整的基准测试数据集,并在其中进行了对比实验,证明了该方法的优越性以及提出的数据集的更高难度值。
Oct, 2017
这篇论文是对近年来领域泛化(即在一个或多个不同但相关的领域中学习出可以推广到看不见的测试领域的模型)领域的最新进展的首次回顾,涵盖了相关的理论、算法、数据集、应用,并提出了未来的研究方向。
Mar, 2021