Dec, 2018

PROVEN：一种基于概率方法验证神经网络的稳健性

HTML
PDF
TL;DR该研究提出了一种概率证明框架 PROVEN，用于验证神经网络在输入加噪时的鲁棒性，可证明分类器的 top-1 预测在受限的 Lp 范数扰动下不会发生改变，证书是基于现有的神经网络鲁棒性验证框架，该方法在 MNIST 和 CIFAR 神经网络模型的实验中取得了75%的提升。
发现论文，激发创造
  • 神经网络的鲁棒性：一种概率和实用的方法

    本文提出了一种概率健壮性的概念，并介绍了一个基于抽象解释和重要性采样的算法，以检查神经网络是否具有概率健壮性。

    Feb, 2019

  • 贝叶斯神经网络的鲁棒性的统计保证

    引入了一种基于概率鲁棒性的贝叶斯神经网络（BNNs）的测量方法，定义为在某个有界集合内是否存在另一个点，使得BNN的预测在这两个点之间有差异的概率，并且可以用于量化对抗样本的存在概率。通过基于概率模型的统计验证技术，开发了一个框架，可以估计具有统计保证的BNN的概率鲁棒性，并在MNIST和GTSRB数据集的图像分类任务上提供了实验对比。结果可以在对抗环境中量化BNN预测的不确定性。

    Mar, 2019

  • 通过随机平滑，对前k个预测的鲁棒性进行认证，以防对抗扰动

    通过引入随机化平滑化技术，本篇论文提出了一种可对Top-K预测进行认证的分类器鲁棒性保护方法， 并在 CIFAR10 和 ImageNet 上进行了实证评估。

    Dec, 2019

  • 对抗攻击的二阶可证明防御

    通过计算神经网络的Hessian矩阵的特征值上界，提出了基于曲率的神经网络鲁棒性证明和训练方法，相较于基于区间传递的方法，在MNIST上取得了更高的鲁棒性准确率。

    Jun, 2020

  • 对抗训练和可证明的鲁棒性: 两个目标的故事

    提出了一个基于对抗训练和可证明的强健性验证相结合的原则性框架，用于训练可证明强健的神经网络，并开发了一个新的梯度下降技术，可以消除随机多梯度中的偏差。 通过理论分析该技术的收敛性和与现有技术的实验比较，对 MNIST 和 CIFAR-10 的结果表明，所提出的方法可以始终匹配或优于过去的方法，特别是在 MNIST 的 epsilon = 0.3时，达到了6.60％的验证测试错误率，在 CIFAR-10上达到了66.57％（epsilon = 8/255）。

    Aug, 2020

  • 基于可验证对抗性鲁棒性的贝叶斯推断

    通过贝叶斯学习的视角考虑深度神经网络的对抗训练，并提出了一种具有可证明保证的贝叶斯神经网络（BNN）的对抗训练的原则性框架。该方法可在MNIST、FashionMNIST和CIFAR-10上训练出可证明鲁棒性的模型，并用于不确定性校准。这是第一次直接训练可证明的BNN，可促进在安全关键应用中的部署。

    Feb, 2021

  • CC-Cert: 一种概率方法来证明神经网络的普适鲁棒性

    本文提出了一种基于Chernoff-Cramer Bounds 的新型通用概率认证方法，可以用于对抗性攻击环境下的机器学习应用。实验结果支持了我们的理论发现，证明了我们的方法对于语义扰动具有防御能力。

    Sep, 2021

  • 基于贝叶斯神经网络的对抗鲁棒性认证

    通过权重区间采样的计算框架，对贝叶斯神经网络（BNNs）的鲁棒性进行了证明，包括在分类及回归等多种任务中的使用。

    Jun, 2023

  • 朝着高准确度的概率鲁棒性认证

    通过提出一种新的方法，同时追求高准确性和具有认证的概率鲁棒性，我们的实验显示该方法在多个模型和数据集上的认证率和准确性方面明显优于现有方法。

    Sep, 2023

  • 贝叶斯神经网络中概率鲁棒性的严格验证

    我们介绍了两种算法，用于计算贝叶斯神经网络（BNNs）的概率鲁棒性的严格保证。

    Jan, 2024