通过傅里叶稳定性增强神经网络的鲁棒性

ICMLJun, 2021

Enhancing Robustness of Neural Networks through Fourier Stabilization

Netanel Raviv, Aidan Kelley, Michael Guo, Yevgeny Vorobeychik

TL;DR本文介绍了一种名为 “Fourier Stabilization” 的方法，使用傅里叶分析工具来设计抗拒逃避攻击的神经网络，提高了神经网络在多种安全检测环境下的鲁棒性，并证明这种方法与对抗性训练有效组成。

Abstract

Despite the considerable success of neural networks in security settings such as malware detection, such models have proved vulnerable to evasion

发现论文，激发创造

使用傅里叶分析的方法研究了深度学习中对抗攻击和防御问题，发现神经网络的高频分量是其漏洞产生的重要原因，于是提出了一种简单的后验平均方法来平滑这些高频分量，使神经网络的鲁棒性得到了提高，可以有效地防御多种对抗攻击方法，且不会对原始图像产生显著的性能下降。

May, 2019

本研究通过一种可靠的方法，研究了深度神经网络的频率敏感特性并提出了一种傅里叶正则化框架来改善模型的鲁棒性。

Jan, 2023

通过研究深卷积网络的灵敏度，我们发现傅里叶基函数方向上的微小改变可以导致网络准确率下降，这是一种有潜在安全风险的现象，然而这种有害扰动的共享方向特征仍然未知。鉴于对其性质的探究，我们针对黑盒模型提出了一个通用算法，可以生成具有位移不变性的通用对抗扰动。

Sep, 2018

本研究解决了深度神经网络输出不稳定的问题，通过提出一种稳定训练方法，使其能够应对常见图像处理带来的输入扭曲，并在大规模近似重复检测、类图像排序和嘈杂数据集分类等方面取得了鲁棒且最先进的性能。

Apr, 2016

本研究利用傅里叶分析探索了基于骨架的动作识别中图卷积神经网络的强健性和易损性，发现对抗训练是提高防御对抗攻击和常见损坏的实用方法，同时，它不能解释骨骼部分不完整性的易损性，这限制了傅里叶方法的应用。

May, 2023

该研究使用傅里叶域的分析方法和特征图的相位和振幅识别方法，成功地区分了对抗示例和良性测试图片，并提出了两种新颖的对抗检测方法。

Mar, 2021

通过使用四维可视化技术，本文探讨了在频域下分析 ConvNets 内部过程的可能性，研究了 ConvNets 对噪声的稳定性，并发现利用加入噪声的训练集来微调 ConvNets 可以提高其稳定性。

Nov, 2015

通过研究模型在训练过程中的随机性，我们发现在自然语言理解任务中，模型的预测结果的不稳定性会对一部分查询产生影响，提出了一种衡量稳定性现象的方法 —— 标签熵，我们研究了数据不可知的正则化方法和新的数据中心方法，发现它已在计算成本的分数中取得了 90% 的性能优势以及金标准的表现。

May, 2023

本文研究了对回归神经网络的对抗攻击问题，并提出了一种基于正则化的稳定性防御方法，该方法表现出了比之前方法更好的效果和改进了函数的数值稳定性。

Dec, 2018

提出了一种基于图像的医学对抗性攻击方法，利用 CNN 并结合一种目标函数进行攻击，其中目标函数包括丢失偏差项和丢失稳定项，通过丢失稳定项来确保攻击方法适用于不同类型的医学图像。实验证明，该方法对各种医学图像具有稳定性。

Mar, 2021