Nov, 2022

利用紧线性逼近证明卷积神经网络的鲁棒性

PDF
TL;DR本文提出了一种紧线性逼近方法 (Ti-Lin) 来验证卷积神经网络的稳健性，使用 MNIST，CIFAR-10 和 Tiny ImageNet 数据集对 Ti-Lin 进行评估，结果表明 Ti-Lin 明显优于其他五种最先进的方法，对纯 CNN 具有 Sigmoid/Tanh/Arctan 函数和具有 Maxpooling 功能的 CNN 的稳健性边界水平提高了最多 63.70％和 253.54％。
robustness verificationconvolutional neural networkslinear boundsmnistcifar-10
发现论文，激发创造
  • 基于线性近似的最大池化卷积神经网络的通用鲁棒性验证

    使用紧密线性逼近的 MaxLin 技术，本研究提供了一种鲁棒性验证方法，可提高卷积神经网络的认证下界，并在 MNIST、CIFAR-10 和 Tiny ImageNet 数据集上显示出优于现有工具的性能提升。

    Jun, 2024

  • Sigmoid 型神经网络鲁棒性验证的可证紧线性逼近

    本文介绍了深度神经网络的鲁棒性的重要性及其应用场景，探讨了 Sigmoid 激活函数作为近似函数的限制，提出了全面的神经网络紧度定义方法，实现了证明下限稳健性的大幅改善。通过提高识别网络的准确度，使得卷积神经网络获得了明显更精确的验证结果。

    Aug, 2022

  • CNN-Cert: 一种有效的卷积神经网络稳健性认证框架

    提出了一个可用于卷积神经网络的一般且高效的框架 CNN-Cert 以证明鲁棒性，它通过利用卷积层的特殊结构比现有算法快 17 倍到 11 倍，并且在获得相似或更好的证明上限和速度方面超越了最先进的算法。

    Nov, 2018

  • 两种近似算法的故事：通过欠 - 过估算收紧 DNN 的稳健性验证

    本文研究了神经网络鲁棒性的形式化验证，提出了一种新的双重逼近方法，利用激活函数的低估区间来定义紧逼近边界，并将其实现到了名为 DualApp 的工具中，在不同体系结构的深度神经网络基准测试中，DualApp 方法得到了明显的优化

    May, 2023

  • 神经网络中 S 形非线性函数的线性界限函数自动设计

    通过使用一种简单的搜索方法，精心地根据最先进的算法配置技术调整给定的验证问题，我们提出了一种新颖的参数搜索方法来改进这些线性逼近的质量，进而在几个常用的本地鲁棒性验证基准上平均提高了 25% 的全局下界。

    Jun, 2024

  • 贝叶斯神经网络中概率鲁棒性的严格验证

    我们介绍了两种算法，用于计算贝叶斯神经网络（BNNs）的概率鲁棒性的严格保证。

    Jan, 2024

  • 使用高效的本地 Lipschitz 界限训练保证鲁棒神经网络

    本文提出了一种训练算法插件，可以有效地减小神经网络的局部 Lipschitz 上界，以提高神经网络的自然精度和可证明的精度之间的权衡，并在 MNIST、CIFAR-10 和 TinyImageNet 数据集上展示了该方法在不同网络结构下均能优于现有的最先进方法。[Simplified Chinese]

    Nov, 2021

  • 通过 ReLU 神经网络的最小最大表示实现严密的认证鲁棒性

    本文提供了一种基于概率测度优化的方法，通过将问题抬升到无限维度优化来获得 ReLU 神经网络的紧凑可靠性证明，并证明在一定条件下，原始非凸问题的解可以由离散分布生成，从而可以完全解决模型的最优攻击问题。

    Oct, 2023

  • 神经网络的 Lipschitz 界分析

    本文提出了利用 Lipschitz Bound Estimation 保证深度神经网络对抗攻击鲁棒性的有效方法，并通过图形分析支持 CNN 获得非平凡 Lipschitz constant 的困难。同时，采用 Toeplitz 矩阵将 CNN 转换为完全连接的网络，并运用实验证明了在特定数据分布中实际 Lipschitz constant 与获得紧密界定之间存在的 20-50 倍的差距。针对不同网络架构在 MNIST 和 CIFAR-10 上进行全面实验和比较分析。

    Jul, 2022

  • 神经网络紧致鲁棒性验证的凸松弛屏障

    本文介绍一种基于凸松弛框架的神经网络强鲁棒性验证算法，通过大量实验发现该算法在已有松弛算法上并没有显著提高，提示了一类算法具有固有的严格验证难度。

    Feb, 2019