ECCVApr, 2022

频率低切池化 —— 插入即用以抵御灾难性过拟合

PDF
TL;DR本文介绍了一种去除伪影的下采样操作 ——FrequencyLowCut pooling，并通过结合 FGSM 的对抗训练在模型鲁棒性和过拟合方面取得了显著改善。
convolutional neural networkssignal processingaliasing artifactsadversarial trainingmodel robustness
发现论文，激发创造
  • 尽快解决降采样问题！通过混频和免受频谱伪影的池化提高鲁棒性

    通过信号处理的视角分析了当前降采样方法在频域中易受频谱泄漏伪像的问题，并提出了一种无混叠和频谱伪像的降采样方法 ASAP，该方法在保持相似的准确性甚至优于基准方法的同时，提高了对常见破坏和对高低分辨率数据的对抗攻击的本地鲁棒性。

    Jul, 2023

  • 探究卷积神经网络中抗锯齿的更深层次

    通过提供一个自适应、内容感知的低通滤波层，该文章提出了一种解决深度学习中降采样导致失真的问题的有效方法，并在多项任务中展示其效果，从而避免失真，同时保留用于识别的有用信息。

    Aug, 2020

  • 使卷积网络再次具有平移不变性

    本篇研究提出，在现代卷积网络中添加抗锯齿模块能较好地提高模型的精度，使其具有更好的普适性和鲁棒性。

    Apr, 2019

  • 模糊池化

    本研究使用（1 型）模糊集合方法提出了一种新的池化操作来处理卷积网络中特征不确定性，通过公开数据集的多个实验，发现其可显著提高卷积神经网络的图像分类性能，优于现有最先进的池化方法。

    Feb, 2022

  • 使用 SoftPool 优化激活下采样

    提出了一种快速有效的方法，在卷积神经网络中通过指数加权降采样操作以更好地保留信息，从而提高分类准确率和动作识别性能。

    Jan, 2021

  • 微小目标检测中抗锯齿的重要性

    应用 WaveCNet 实现抗混叠的小物体检测，通过在 CNN 中使用 WaveletPooling 层来替换下采样过程以抑制混叠，并通过改进骨干网络进一步提高检测性能和减少参数数量，实验结果表明该方法在三个数据集上取得了新的最优结果。

    Oct, 2023

  • 卷积神经网络中的内容自适应下采样

    该论文提出了一种适应性下采样方案，通过允许以更高的分辨率处理信息丰富的区域而不是信息较少的区域，从而提高了各种已建立 CNN 的成本 - 准确性权衡效果。

    May, 2023

  • 频域学习

    通过在频域进行学习和频道选择，我们提出了减少冗余和显著信息以提高图像分类精度的学习方法，得出使用该方法的 ResNet-50、MobileNetV2 和 Mask R-CNN 在图像分类和实例分割上表现更好的结论。

    Feb, 2020

  • 构建更稳健的模型：频率偏差

    该研究针对深度神经网络在对抗样本上的脆弱性，提出了一种名为频率偏好控制模块的插件，它能够自适应地重新配置中间特征表示的低频和高频成分，以更好地利用频率进行鲁棒学习。实证研究表明，这种模块可以轻松地与任何对抗训练框架相结合，在不同体系结构和数据集上进一步提高模型的鲁棒性。此外，还进行了实验，以检验鲁棒模型的频率偏差如何影响对抗训练过程及其最终的鲁棒性，并揭示了有趣的见解。

    Jul, 2023

  • 残差网络的有效抗锯齿方法

    通过在关键位置上放置不可训练的模糊滤波器和使用平稳激活函数来缓解频率混叠现象，这些简单的架构更改在图像分类和识别上产生了显著的提高，并且没有引入额外的可训练参数。

    Nov, 2020