探究卷积神经网络中抗锯齿的更深层次
通过在关键位置上放置不可训练的模糊滤波器和使用平稳激活函数来缓解频率混叠现象,这些简单的架构更改在图像分类和识别上产生了显著的提高,并且没有引入额外的可训练参数。
Nov, 2020
本文研究了深度卷积网络中混叠对泛化性能的影响,并表明数据增强方案由于所使用的结构存在结构性限制而无法防止其影响。通过从频率分析理论中获得了启发,我们对 ResNet 和 EfficientNet 架构进行了更深入的研究,评估了它们各自主要组成部分中混叠和信息丢失之间的权衡。我们展示了如何通过在关键位置插入非可训练低通滤波器来减轻混叠,特别是在网络缺乏学习它们的能力的地方。这些简单的架构改变在 i.i.d. 和分布之外条件下显着提高了泛化性能,例如在 ImageNet-C [11] 上的自然破坏的图像分类和 Meta-Dataset [26] 上的小样本学习。在不引入额外的可训练参数和使用开源代码库的默认超参数的情况下,两个数据集都取得了最先进的结果。
Aug, 2021
应用 WaveCNet 实现抗混叠的小物体检测,通过在 CNN 中使用 WaveletPooling 层来替换下采样过程以抑制混叠,并通过改进骨干网络进一步提高检测性能和减少参数数量,实验结果表明该方法在三个数据集上取得了新的最优结果。
Oct, 2023
本文介绍了一种去除伪影的下采样操作 ——FrequencyLowCut pooling,并通过结合 FGSM 的对抗训练在模型鲁棒性和过拟合方面取得了显著改善。
Apr, 2022
该论文提出了一种适应性下采样方案,通过允许以更高的分辨率处理信息丰富的区域而不是信息较少的区域,从而提高了各种已建立 CNN 的成本 - 准确性权衡效果。
May, 2023
本研究通过详细分析硬像素错误,将其分为三类:虚假响应、合并错误和位移;发现了硬像素与混叠现象之间的定量关联,并提出了去混叠滤波器(DAF)和频率混合(FreqMix)模块来减轻混叠问题,从而在语义分割和低光实例分割任务中取得了持续的改进。
Mar, 2024
通过信号处理的视角分析了当前降采样方法在频域中易受频谱泄漏伪像的问题,并提出了一种无混叠和频谱伪像的降采样方法 ASAP,该方法在保持相似的准确性甚至优于基准方法的同时,提高了对常见破坏和对高低分辨率数据的对抗攻击的本地鲁棒性。
Jul, 2023
本文提出一种扩展的反锯齿方法,旨在解决由下采样层和非线性层引起的失真问题,从而创造真正无失真的平移不变的 CNN,并且在整数和分数(即次像素)平移方面具有不变性,因此在对抗平移的鲁棒性方面优于其他平移不变方法。
Mar, 2023