本文主要研究基于深度神经网络的方法在训练数据与测试数据分布不一致时的性能问题，并通过学习训练样本的权重以消除特征之间的依赖关系，从而提高深度模型的性能。通过在多个分布泛化基准测试上的实验，与同类研究相比，我们的方法取得了很好的效果。

Apr, 2021

本文提出了一种训练且具有鲁棒性的卷积神经网络的方法，通过惩罚较早层所学习的局部表示的预测能力，迫使网络丢弃色彩和纹理等可从局部感受野中获取的预测信号，并依靠图像的全局结构。在一系列综合性和基准领域适应任务中，我们的方法使泛化能力得到了改善。我们还引入了一个新的数据集 ImageNet-Sketch，以评估跨域传输。

May, 2019

通过结合多层和多尺度的特征，利用深度卷积神经网络来提高图像分类器的领域泛化能力，并提出了一种新颖的目标函数，使用对比学习的方法约束提取的特征在分布转移下保持不变，实验证明该方法在多个数据集上均表现出与之前方法相比更好的性能。

Aug, 2023

本研究使用 Fourier 滤波技术构建数据集，并发现深度 CNN 倾向于抓取训练集的 Fourier 图像统计数据，导致出现高泛化差距，从而支持深层 CNN 更倾向于学习数据集的表面统计规律而非高层次的抽象概念。

Nov, 2017

GLIMPSE 是一种针对计算机断层扫描的局部处理神经网络，通过仅将与像素周围邻域相关的测量结果提供给简单的多层感知机（MLP）以重建像素值，在分布内测试数据上达到与成功的卷积神经网络（如 U-Net）相当或更好的性能，而在分布外的样本上明显优于它们，并且几乎独立于图像分辨率的内存占用，仅需 5GB 内存即可训练 1024x1024 的图像。

Jan, 2024

通过对 17 种无监督，弱监督和完全监督的表征学习方法进行测试，本文观察到这些模型对于简单数据集中存在的发生因素都无法正确学习机制，且随着测试数据集的现实性增强，它们的泛化能力显著下降。

Jul, 2021

通过从样本和特征角度出发，强调相关联系并消除不相关联系，我们提出了两个模块，用于提高模型的泛化能力，从而获得跨多个领域的领域不变表示，实验结果表明，嵌入这两个模块的卷积神经网络（CNNs）或多层感知机（MLPs）能够取得优秀的结果，例如在 Digits-DG 上的平均准确率为 92.30%。

Jan, 2024

本研究提出了一种算法，在仅有粗糙分类标签的情况下，学习目标任务的细粒度模式并获得理论保证，实验表明该方法可以显着提高在目标任务上的表现。

May, 2020

本文提出了一种基于卷积神经网络的交叉域泛化图像分类方法，通过 Augmentation Layer 增强 CNN 的中间特征图以提高模型在跨域数据上的泛化能力，实验结果表明本方法在 PACS、VLCS、Office-Home 和 TerraIncognita 等数据集上表现优异。

May, 2023

使用特权信息（如肿瘤形状或位置）来预测光学相干断层扫描中内层视网膜流体的严重程度，使深度学习模型在超出分布数据上的分类准确率从 0.911 提高到 0.934，为其他需要泛化的医学问题的特权信息使用提供了一个强有力的起点。

Nov, 2023