Feb, 2020

可扩展认证鲁棒性及其扰动分析

PDF
TL;DR本文提出了一种自动框架来使任何神经网络结构都能够进行扰动分析，通过推广现有的 LiRPA 算法，如 CROWN 操作于一般计算图上，实现了 LiRPA 基于认证防御的最新成果，同时减少了计算复杂性。
lirpaneural networkscertified defenseperturbation analysiscomputational graphs
发现论文，激发创造
  • 快速且完整：使用快速且大规模并行的不完全验证器实现完整神经网络验证

    使用反向模式线性松弛基于摄动分析来替代线性规划，在机器学习加速器上实现快速的神经网络形式验证，并通过快速梯度基础收紧过程的结合，有效地使用了 LiRPA。

    Nov, 2020

  • 朝着稳定和高效的可验证鲁棒神经网络训练

    本文提出了一种名为 CROWN-IBP 的新认证敌对训练方法，该方法结合了快速的 IBP 边界传播和基于紧线性松弛的后向传播，能够高效地提供强大的神经网络分类器，并在 MNIST 和 CIFAR-10 数据集上超过以往所有的线性松弛和边界传递认证防御的最佳结果

    Jun, 2019

  • PRoA：一种针对功能扰动的概率稳健性评估方法

    本文提出一种新的概率鲁棒性评估方法 (PR0A)，用于测量深度学习模型对功能扰动的鲁棒性，可以提供模型失败的概率性保证。该方法在实际中具有较高的效力和灵活性，并且相比于已有的基准线，它可以与各种大规模深度神经网络进行良好的扩展。

    Jul, 2022

  • 高效却稳健的私有推理的线性化模型

    RLNet 是一种鲁棒线性化网络，通过减少高延迟 ReLU 操作，在干净和受损图像上提高模型性能，从而在私有推理中提供改进的分类准确性，同时减少计算复杂度。

    Feb, 2024

  • 评估和训练可验证的强鲁棒性神经网络

    本篇研究旨在探究 interval bound propagation 和 CROWN 的关系，并证明线性绑定线是比 IBP 更紧的。进一步提出 CROWN 的放松版本 LBP，它可以用于验证大型网络以获得比 IBP 更低的验证误差。我们还设计了一种新的激活函数 ParamRamp，并在 MNIST，CIFAR-10 和 Tiny-ImageNet 等数据集上进行了广泛实验，取得了领先的验证稳健性结果。

    Apr, 2021

  • PROVEN：一种基于概率方法验证神经网络的稳健性

    该研究提出了一种概率证明框架 PROVEN，用于验证神经网络在输入加噪时的鲁棒性，可证明分类器的 top-1 预测在受限的 Lp 范数扰动下不会发生改变，证书是基于现有的神经网络鲁棒性验证框架，该方法在 MNIST 和 CIFAR 神经网络模型的实验中取得了 75% 的提升。

    Dec, 2018

  • Lipschitz-Margin 训练：深度神经网络扰动不变的可扩展认证

    针对神经网络模型在输入数据遭到恶意篡改时的高敏感度，提出一种能够证明防御网络免受攻击的模型的构建方法，通过计算 Lipschitz 常数与预测边界之间的关系，提出一种计算有效的对不同的复杂网络广泛适用的鉴别器大小的方法，并提出一种有效的训练程序，提高数据点周围可证明的保护区域和网络的鲁棒性。

    Feb, 2018

  • 对抗通用扰动防御

    本文提出了一个 Perturbation Rectifying Network (PRN) 框架，通过学习实际和合成的图像通用扰动，和在 PRN 的输入和输出差异的离散余弦变换上独立训练的检测器，从而有效地保护深度学习网络免受任何图像的通用对抗性扰动的影响。

    Nov, 2017

  • 基于分支定界的 IBP 正则化方法实现验证性对抗攻击鲁棒性

    IBP-R 是一种新颖的验证训练算法， 使用扩大的域上的对抗攻击和正则化术语，并使用廉价的间隔边界传播来最小化非凸验证问题与其近似之间的差距。通过利用最近的分支换框架，我们展示了 IBP-R 获取了 CIFAR-10 上小扰动的最新验证鲁棒性 - 准确性折衷，并且比相关先前的工作训练要快得多。

    Jun, 2022

  • 预训练对抗扰动

    本文提出了一种用于生成预训练模型对抗攻击的通用扰动 Pre-trained Adversarial Perturbations (PAPs) 方法，其中采用低级层提升攻击 (Low-Level Layer Lifting Attack, L4A) 的方法来生成扰动，并结合增强的噪声增广策略生成更具可传递性的 PAPs，实验证明我们的方法比现有方法在攻击成功率方面有了大幅度提高。

    Oct, 2022