CNN 模型易受到对抗攻击的脆弱性为安全关键应用的部署带来了担忧,本研究通过在频域中构建空间频率图层来探讨 CNN 模型的脆弱性,通过广泛的实验观察到空间频率 CNN 模型在白盒和黑盒攻击下比常规 CNN 模型更加稳健,此外,发现低频成分对空间频率 CNN 模型的鲁棒性有重大贡献,这些发现将有助于未来设计更加鲁棒的 CNN 模型。
May, 2024
通过在频域进行学习和频道选择,我们提出了减少冗余和显著信息以提高图像分类精度的学习方法,得出使用该方法的 ResNet-50、MobileNetV2 和 Mask R-CNN 在图像分类和实例分割上表现更好的结论。
Feb, 2020
为了克服通信信道在用户位置发生变化和学习低频函数的偏见带来的困难,本文提出了一种节俭、基于模型的网络,将目标映射函数的低频部分与高频部分分离出来,形成一个超网络架构,其中神经网络只学习高频组件字典中的低频稀疏系数。仿真结果表明,所提出的神经网络在真实合成数据上优于标准方法。
Aug, 2023
本文主要研究如何解决基于 Generative Adversarial Networks 的图像生成模型在高频处表现不佳的问题,为解决此问题,提出一种仅需少量计算资源的方法来调整模型对数据的关注点,增强模型的灵活性。
Oct, 2020
本文通过分析神经网络对频率和尺度的敏感性发现,神经网络具有不同频段类别的偏好,并且物体的尺度影响首选频段。为了证实这一假设,我们提出了基于高斯导数的网络体系结构,能够以手动方式从不同尺度上提取特征,提高了在各种数据集上的可比准确性。
Feb, 2023
通过理论和实验,我们证明了卷积神经网络对低频信号的敏感性是自然图像的频率分布的结果,该分布已知在低到中频率范围内具有大部分功率。我们的理论分析依赖于卷积神经网络层在频率空间的表示,这个想法以前已经被用来加速计算和研究网络训练算法的隐含偏差,但据我们所知,还没有应用于模型的稳健性领域。
Oct, 2022
通过傅里叶分析的工具,表明深度 ReLU 网络偏向于低频函数,且随数据流形复杂性的增加,学习高频函数变得更容易,但参数扰动会影响频率成分的鲁棒性和精确表达。
Jun, 2018
本论文研究了如何通过修改人工神经网络 (ANN) 的谱特性来提高其识别准确率和对抗攻击的鲁棒性,发现对于密集型网络来说,较大的幂次方(大约为 2-3)可提高验证准确度和对抗性鲁棒性。
Aug, 2022
频率分析这一研究领域在理解神经网络中的表示学习机制方面具有重要作用。本研究通过实证调查,扩展了对频率快捷方式的理解,并验证了其在分类任务中的应用,结果显示频率快捷方式是可转移的,且无法完全避免,建议未来的研究应该专注于有效的训练方案以减轻频率快捷方式的学习。
Jul, 2023
本文研究了图像数据的频谱与卷积神经网络(CNN)的泛化行为之间的关系,揭示了 CNN 捕获高频率组件的能力,提出与 CNN 泛化行为相关的多个假设,并探讨了 CNN 在鲁棒性与准确性之间的平衡及训练启发式的一些证据。
May, 2019