ICLRDec, 2019

雅可比对抗正则化网络的鲁棒性

PDF
TL;DR本文提出 Jacobian Adversarially Regularized Networks（JARN）方法，训练图像分类器，通过对抗正则化模型来优化分类器的 Jacobian，从而提高模型的鲁棒性。与标准模型相比，使用 JARN 训练的图像分类器在 MNIST，SVHN 和 CIFAR-10 数据集上表现出更优的鲁棒性，揭示了一种不使用对抗性训练示例提高模型鲁棒性的新方法。
adversarial examplesadversarial trainingjacobian matricesrobustnessimage classifiers
发现论文，激发创造
  • 利用雅可比正则化提高 DNN 对对抗攻击的鲁棒性

    该研究提出了一种基于 Frobenius 规范化 Jacobian 矩阵的网络后处理方法，以提高深度神经网络的鲁棒性，从而改善其对抗攻击的表现，同时对网络准确性的影响也很小。

    Mar, 2018

  • 选择性输入梯度正则化的雅可比范数用于改进和解释可行对抗防御

    本文提出了一种基于 Jacobian 规范和选择性输入梯度正则化（J-SIGR）的新方法，从 Jacobian 规范的线性化健壮性建议，并控制基于扰动的显著性图以模仿模型的可解释预测，这既实现了改进的防御又实现了 DNN 的高可解释性。

    Jul, 2022

  • 深度神经网络对抗鲁棒性正则化的研究

    本文研究了神经网络建模的正则化视角，通过将模型向分类决策边界的平滑变化进行防御，使其尽可能不改变预测结果，但会导致预测结果的置信度下降，这种正则化方法要避免性能下降。

    Nov, 2020

  • 具抗扰性的雅可比正则化学习

    为了确保可靠系统的稳定性，机器学习中的 Jacobian regularization 可以防止过拟合，并保证模型对于输入数据的污染具有鲁棒性。

    Aug, 2019

  • 局部线性化对抗鲁棒性

    本文介绍了一种新型的正则化方法，该正则化方法鼓励在训练数据附近的损失行为呈线性，从而惩罚梯度混淆并鼓励鲁棒性。通过在 CIFAR-10 和 ImageNet 上的大量实验，我们展示了使用我们的正则化方法训练的模型避免了梯度混淆，并且比对抗训练能够更快地训练。使用这种正则化方法，我们在 ImageNet 上取得了 47% 的对抗准确率和 8/255 的和 CIFAR-10 同样的表现。

    Jul, 2019

  • 通过正则化对抗梯度实现神经网络的鲁棒训练

    通过限制神经网络的对抗梯度并增加对抗性样本生成的难度，提高了神经网络的鲁棒性，使其能够抵御各种类型的对抗性攻击，特别是迁移攻击。

    May, 2018

  • 理解图像分类决策的对抗解释及改进神经网络的鲁棒性

    本文研究神经网络在医疗影像和欺诈检测等敏感领域应用时面临的鲁棒性问题和对抗攻击，并提出一种受 Lipschitz 约束启发的正则化技术以提高神经网络的抗干扰能力。在 ImageNet 分类任务中，本文设计的神经网络的准确性和鲁棒性面积（ARA）为 0.0053，是之前最先进技术的 2.4 倍，拓展了理解神经网络决策的重要方向。

    Jun, 2019

  • 通过一致性正则化提高神经网络的认证鲁棒性

    该研究探讨了虚假分类样本导致的不一致性，并通过添加新的一致性正则化项来更好地利用虚假分类样本，提出了一种新的防御规则项，称为 Misclassification Aware Adversarial Regularization（MAAR），在 CIFAR-10 和 MNIST 数据集上实现了最佳的认证鲁棒性和可比较的准确性。

    Dec, 2020

  • 通过结构化梯度正则化进行对抗性鲁棒性训练

    本文提出了一种新的数据依赖性结构化梯度正则化器，旨在增加神经网络对抗扰动的鲁棒性，该正则化器可以从第一原理中导出。实验证据表明，结构化梯度正则化是对抗低水平信号污染攻击的有效一线防御。

    May, 2018

  • 曲率正则化带来的鲁棒性及其相反情况

    本文研究了对抗训练对分类景观和决策边界几何形态的影响，展示了对抗训练导致的输入空间曲率减少及网络更 “线性” 行为的结果。我们提出一个直接最小化损失面曲率的新的规则化方法，并提供了理论上的证据表明大鲁棒性与小曲率之间存在强关联。

    Nov, 2018