Dec, 2023

通过学习领域感知的批归一化实现测试时域自适应

PDF
TL;DR通过仅操作 BN 层以减少学习干扰和提高域知识学习，结合自我监督学习提供监督，以及使用元学习强制辅助分支与主分支目标对齐的双层优化，我们的方法在五个真实领域转移数据集上优于其他方法。
test-time domain adaptationunlabeled imagesbatch normalizationknowledge interferencedomain knowledge extraction
发现论文，激发创造
  • 针对特定领域的批量归一化在无监督领域适应中的应用

    提出了一种基于领域特定批量归一化的深度神经网络的新型无监督领域自适应框架，其中包括估计目标领域示例的伪标签和使用多任务分类损失进行源和目标域的学习，实现了多源领域自适应场景的全面优化。

    May, 2019

  • 实用域自适应的 Batch Normalization 重新审视

    本文提出了一种称为自适应批量归一化（AdaBN）的方法来提高深度神经网络的泛化能力，无需额外组件或参数，并证明其在领域适应任务和现有方法相结合时具有卓越的性能表现。

    Mar, 2016

  • 自监督批量归一化测试时间适应的通用人员再识别

    本研究提出了一种新的人员再辨识（re-id）框架 ——Batch Norm Test-time Adaption（BNTA），它使用自监督策略自适应地更新 Batch normalization（BN）参数，通过两个辅助任务：部分定位和最近邻匹配，挖掘与部分结构和身份相关的领域感知信息，并调节经过 BN 规范化的特征分布以适应目标域，从而在三个再识别数据集上证明了该方法的卓越性能。

    Mar, 2022

  • 域适应器：一种用于测试时适应的新方法

    通过 AdaMixBN 模块和广义熵最小化 (GEM) 损失函数，本论文提出了一种名为 DomainAdaptor 的统一方法，用于进行测试时的适应学习，以最大限度地挖掘测试数据中的信息，并解决训练和测试样本之间的领域偏移问题，从而在四个基准测试中稳定超过现有方法，尤其在少量数据的未知领域中带来了更显著的改进。

    Aug, 2023

  • 通过匹配批归一化统计数据实现无源域自适应的分布对齐

    我们提出了一种利用预训练模型中的批量归一化统计信息来逼近未观测源数据分布的新颖域自适应方法，并在多个基准数据集上验证了其在无法访问源数据的情况下具有竞争性的分类性能。

    Jan, 2021

  • 对协变量偏移的测试时间批次统计校准

    本文提出了一种基于 alpha-BN 的测试时间适应框架 Core，通过混合源和目标统计信息来校准批次统计量以缓解域漂移并保留区分结构。实验证明我们的方法在包括图像分类和语义分割的三个主题的 12 个数据集上实现了最先进的性能。特别地，在没有任何训练的情况下，我们的 alpha-BN 改进了 28.4％至 43.9％，甚至超过了最新的源无关域自适应方法。

    Oct, 2021

  • TTN：测试时间适应中考虑领域变化的批量归一化

    本文提出了一种新型的批次规范化策略 —— 测试时间适应的归一化统计方法，通过调整传统归一化和传输归一化统计信息的权重，以适应各种实际评估场景，提高模型对于不同批次大小和领域转移的鲁棒性，实现了各项标准评测中的最佳性能。

    Feb, 2023

  • 预训练网络的少样本领域适应

    提出了一种少样本领域自适应框架，通过受目标域的一个小支持集合监督的预训练源模型中的特征标准化统计的约束优化，可改善源模型的分类性能，实验证明该方法优于测试时适应方法，并且没有实时流条件的限制。

    May, 2022

  • 深度域泛化的批归一化嵌入

    该研究提出一种基于批标准化和集成模型的域泛化方法，以在不同和未知的领域中提高机器学习模型的鲁棒性和分类准确性。

    Nov, 2020

  • 通道选择性归一化的标签偏移稳定测试时自适应

    通过有选择性地调整深度神经网络中的通道，以降低对标签分布的敏感性，我们在三个分类任务中应用了这一方法，并发现它在减少其他方法的失败风险的同时，能够显著提高测试时间自适应的效果，同时对超参数的选择具有鲁棒性。

    Feb, 2024