关于认证抵御对抗攻击的非均匀界限

Mar, 2019

关于认证抵御对抗攻击的非均匀界限

On Certifying Non-uniform Bound against Adversarial Attacks

Chen Liu, Ryota Tomioka, Volkan Cevher

TL;DR研究神经网络模型的鲁棒性认证问题，提出一种框架来限制输出标志，以使加宽限制后的问题能够通过增广 Lagrangian 方法来解决，证明了非均匀限制具有更大的体积和更好的鲁棒性，并提供了一种定量的数据 - 不可知度量输入特征的鲁棒性。

Abstract

This work studies the robustness certification problem of neural network models, which aims to find certified adversary-free regions as large as possible around data points. In contrast to the existing approaches that seek regions bounded uniformly along all input features, we consider

neural networks robustness certification decision boundary non-uniform bounds augmented lagrangian method

发现论文，激发创造

针对 ReLU 网络的对抗性样本的鲁棒性证书

本文提出一种基于深度 ReLU 网络的攻击不可知的稳健性证书，用于多标签分类问题，通过利用 ReLU 网络的分段线性结构，提出了两个距离下界，分别为单纯形证书和决策边界证书，其中单纯形证书具有闭合形式，可微性和计算速度快的特点，并在 MNIST 数据集上验证其理论有效性。

Feb, 2019

基于贝叶斯神经网络的对抗鲁棒性认证

通过权重区间采样的计算框架，对贝叶斯神经网络（BNNs）的鲁棒性进行了证明，包括在分类及回归等多种任务中的使用。

Jun, 2023

带有认证网络的通用逼近

本文证明了对于任何连续函数 f，都存在一个网络 n，使得 n 能够逼近 f 并在 n 中通过简单区间传播得到的在区间 B 上的输出结果能够任意接近 f 在 B 上的最优值。这个结果可视为针对间隔认证 ReLU 网络的通用逼近定理。据我们所知，这是首次证明存在准确的间隔认证网络。

Sep, 2019

对抗样本的可证明证书：在多面体的并集中嵌套一个球体

该研究提出了一种计算具有凸性 $p$- 范数的深度神经网络的点对点鲁棒性的新方法，算法 GeoCert 可以在复杂的神经网络中输出距离下界，且该方法比以前的方法更紧凑。

Mar, 2019

全局鲁棒神经网络

通过在网络中加入全局 Lipschitz 边界，文中提出的方法可以快速训练大型强健的神经网络，实现了可证明的最先进的可验证准确性。同时，该方法比最近的可证方法需要的时间和内存少得多，并在在线认证时产生可忽略的成本。

Feb, 2021

通过 ReLU 神经网络的最小最大表示实现严密的认证鲁棒性

本文提供了一种基于概率测度优化的方法，通过将问题抬升到无限维度优化来获得 ReLU 神经网络的紧凑可靠性证明，并证明在一定条件下，原始非凸问题的解可以由离散分布生成，从而可以完全解决模型的最优攻击问题。

Oct, 2023

CC-Cert: 一种概率方法来证明神经网络的普适鲁棒性

本文提出了一种基于 Chernoff-Cramer Bounds 的新型通用概率认证方法，可以用于对抗性攻击环境下的机器学习应用。实验结果支持了我们的理论发现，证明了我们的方法对于语义扰动具有防御能力。

Sep, 2021

通过数据本地化对稀疏对抗扰动进行认证鲁棒性

通过对局部化数据分布的理解，提出了一种基于几何形态的简单分类器 Box-NN，并在 MNIST 和 Fashion-MNIST 数据集上取得了对于稀疏攻击的认证稳健性方面的最新研究成果。

May, 2024

基于随机平滑的黑盒认证：一种基于函数优化的框架

通过一种新的框架，使用非高斯噪声和更广泛类型的攻击来实现在深度学习中的认证鲁棒性，并且比之前的方法提供更好的认证结果和新的随机平滑方法的视角。

Feb, 2020

神经网络的 Lipschitz 界分析

本文提出了利用 Lipschitz Bound Estimation 保证深度神经网络对抗攻击鲁棒性的有效方法，并通过图形分析支持 CNN 获得非平凡 Lipschitz constant 的困难。同时，采用 Toeplitz 矩阵将 CNN 转换为完全连接的网络，并运用实验证明了在特定数据分布中实际 Lipschitz constant 与获得紧密界定之间存在的 20-50 倍的差距。针对不同网络架构在 MNIST 和 CIFAR-10 上进行全面实验和比较分析。

Jul, 2022