通过谱归一化来实现可推广性对抗性训练
深度神经网络容易受到对抗性攻击的影响,本研究聚焦于鏈基于 PAC-Bayes 方法的基于范数复杂性,并提供了一种光谱正则化的鲁棒泛化边界,相比现有边界,该边界不依赖于额外假设且更加紧致,进一步将结果拓展到抵抗一般非 l_p 攻击和其他神经网络架构。
Oct, 2023
本文提出一种名为谱归一化的新颖权重归一化技术,用于稳定生成对抗网络的鉴别器训练。该方法计算轻便,易于应用于现有的实现,并通过在 CIFAR10、STL-10 和 ILSVRC2012 数据集上的实验验证了其有效性,确认谱归一化 GANs 能够生成更好或同质量的图像相对于之前的训练稳定技术。
Feb, 2018
本研究通过对输入扰动的敏感性来研究基于深度学习的泛化能力,提出了一种简单而有效的正则化方法 —— 谱范数正则化,试验结果证实其比其他基准方法更具有泛化性能。
May, 2017
本研究从频谱的角度探讨对抗性训练机制(AT),展示在低频区保留偏向形状的表示能够提高深度神经网络(DNNs)的鲁棒性,并提出了一种名称为 “频谱对齐正则化”(SAR)的训练方法,在多个数据集和攻击下显著提高 DNNs 的鲁棒准确性。
Jun, 2023
我们提出了一种新的谱正则化方法,该方法鼓励下游分类任务中特征表示的黑盒敌对鲁棒性,实证结果表明,该方法在提高测试准确性和鲁棒性方面比以前提出的方法更加有效,并且改善了利用自监督训练或从其他分类任务中传递学习到的表示学习分类器的敌对鲁棒性。总体而言,我们的工作开始揭示表示结构如何影响敌对鲁棒性。
May, 2024
介绍了一种基于卷积结构的归一化方法 (Convolutional Normalization),它可以方便地作为模块嵌入到任何卷积神经网络 (ConvNets) 中,通过提高权重的正交性和每层的通道等距性,减小权重矩阵的层范数,提高网络的 Lipschitzness 并且提高 GAN 性能和普适性。
Mar, 2021
本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题,通过将对抗扰动的正则化器与分类目标相结合,得到的模型能够直接且准确地学习抵御潜在的攻击,实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。
Feb, 2018
本文提出 Spectral Adversarial Training (SAT),基于频谱分解的简单但有效的对抗训练方法,用于提高图神经网络(GNN)对抗攻击的鲁棒性,实验结果表明 SAT 显著提高了 GNN 对抗攻击的鲁棒性,而不影响分类准确性和训练效率。
Nov, 2022
本文提出了一种新的归一化方法 —— 梯度归一化(GN),通过在鉴别器函数上施加硬 1-Lipschitz 约束,从而增加鉴别能力,解决了生成对抗网络中尖锐梯度空间引起的训练不稳定性问题,并在四个数据集上进行了广泛实验,证明了使用梯度归一化训练的 GAN 模型在 Frechet Inception Distance 和 Inception Score 方面优于现有方法。
Sep, 2021