Apr, 2023

提高跨领域鲁棒性的补丁感知批量归一化

PDF
TL;DR本研究提出了一种新的批标准化方法（PBN），通过在空间维度上将批次的特征图拆分为不重叠的小块来独立归一化每个小块，从而利用图像局部块之间的差异来增强模型参数的鲁棒性，可以解决计算机视觉任务中，跨域数据的鲁棒性问题，包括分类，目标检测，实例检索和语义分割等任务。
deep learningcross-domain tasksbatch normalizationdata augmentationcomputer vision
发现论文，激发创造
  • 实用域自适应的 Batch Normalization 重新审视

    本文提出了一种称为自适应批量归一化（AdaBN）的方法来提高深度神经网络的泛化能力，无需额外组件或参数，并证明其在领域适应任务和现有方法相结合时具有卓越的性能表现。

    Mar, 2016

  • 重新审视批归一化以提高抗扰动性

    本研究中，我们将深度神经网络中的几项统计学指标变换为适应不同数据集，并通过少量表示样本的统计估计实现批量归一化统计量的调整与适应，从而在多种基准数据集上得到了更好的数据集迁移性和鲁棒性表现。

    Oct, 2020

  • 针对特定领域的批量归一化在无监督领域适应中的应用

    提出了一种基于领域特定批量归一化的深度神经网络的新型无监督领域自适应框架，其中包括估计目标领域示例的伪标签和使用多任务分类损失进行源和目标域的学习，实现了多源领域自适应场景的全面优化。

    May, 2019

  • BCN: 批量通道归一化用于图像分类

    该研究提出了一种新的规范化技术称为批次通道规范化（BCN），它结合了批次归一化（BN）和层归一化（LN）的优势，并可以应用于计算机视觉领域中的各种应用。

    Dec, 2023

  • 批量归一化解释

    批量归一化是一种无监督的学习技术，它适应了深度神经网络的样条分区来匹配数据，缩小了训练样本和决策边界之间的边距，从而减少了过拟合，提高了泛化性能。

    Sep, 2022

  • 深度域泛化的批归一化嵌入

    该研究提出一种基于批标准化和集成模型的域泛化方法，以在不同和未知的领域中提高机器学习模型的鲁棒性和分类准确性。

    Nov, 2020

  • 基于范例的类增量学习的归一化平衡化

    本研究通过针对基于样本的类增量学习（CIL）任务开发了一种新的 Batch Normalization（BN）更新模式 ——Task-Balanced BN（TBBN），通过使用 reshape 和 repeat 操作以及水平拼接任务平衡批来更好地解决训练数据不平衡问题，实验结果表明 TBBN 是一种超参数自由的变体，并且在 CIFAR-100，ImageNet-100 和五个不同的任务数据集上都优于其他的 BN 变体。

    Jan, 2022

  • 批量归一化增加对抗性漏洞性并降低对抗性可传递性：一个非强健特征的视角

    本研究分析批量标准化在深度神经网络中的影响，提出通过分离鲁棒性和有效性来评估其对神经网络的贡献，并探究其对于特征鲁棒性的贡献程度以及其对于黑盒攻击的可重用性。

    Oct, 2020

  • PHNet：基于补丁的人像协调化归一化

    利用基于补丁的调和网络和基于统计色彩转移的特征提取器实现补丁特征归一化块，并在图像调和中取得优异的结果。

    Feb, 2024

  • 稳健图像分类的上下文归一化

    本文提出一种称为上下文归一化的新的归一化技术，用于图像数据。这种方法基于每个样本的特征调整特征的缩放，通过使数据值适应目标任务的上下文来提高模型的收敛速度和性能。在各种数据集上展示了上下文归一化的有效性，并将其性能与其他标准归一化技术进行了比较。

    Mar, 2023