Apr, 2019

优化与抽象：一种协同分析神经网络鲁棒性的方法

PDF
TL;DR本文提出了一种用于验证神经网络鲁棒性的新算法 Charon，并通过实验评估其在数百个基准测试中显著优于 AI^2，Reluplex 和 Reluval 等三种最先进的工具。
local robustnessdeep neural networksverificationoptimizationdecision procedure
发现论文，激发创造
  • 为深度神经网络认证全局稳健性

    通过利用 PAC 验证框架和统计方法，本研究提出了一种对深度神经网络进行全局鲁棒性评估和验证的高效方法，该方法在评估全局鲁棒性的同时能够有效地找出稀有和多样化的对抗训练的反例。

    May, 2024

  • 神经网络验证的基于抽象的框架

    本研究提出了一种通过使用过度逼近来减小神经网络规模，以提高神经网络验证技术的框架，并使用反例引导调整逼近，以验证大型神经网络。实验证明，该方法对验证大型神经网络具有很大的潜力。

    Oct, 2019

  • 神经网络的鲁棒性：一种概率和实用的方法

    本文提出了一种概率健壮性的概念，并介绍了一个基于抽象解释和重要性采样的算法，以检查神经网络是否具有概率健壮性。

    Feb, 2019

  • 面向实际分布偏移的认证鲁棒性

    本研究考虑了如何证明深度神经网络对真实世界的分布转化具有鲁棒性，提出了一种基于神经符号学的验证框架，并采用生成模型学习数据扰动，解决了现有验证方法对于许多最先进生成模型的 sigmoid 激活函数的处理问题，实验结果表明，该框架在 MNIST 和 CIFAR-10 数据集上能够显著优于现有方法，可以有效应对各种严峻的分布转化挑战。

    Jun, 2022

  • 全局鲁棒神经网络

    通过在网络中加入全局 Lipschitz 边界，文中提出的方法可以快速训练大型强健的神经网络，实现了可证明的最先进的可验证准确性。同时，该方法比最近的可证方法需要的时间和内存少得多，并在在线认证时产生可忽略的成本。

    Feb, 2021

  • 精准、可靠、快速的鲁棒性评估

    在神经网络的研究中，我们开发了一种新的梯度基础的对抗攻击方法，相较于已有的攻击方法，它更可靠，可以适应广泛的对抗标准，并且在提高效率的同时，不需要进行超参数调整，这将对神经网络的鲁棒性评估做出有益的贡献。

    Jul, 2019

  • 神经网络的语法与语义线性抽象及细化

    抽象是一种关键的验证技术，可提高可伸缩性。然而，神经网络领域对抽象的使用迄今极其有限。本研究提供了一个更灵活的框架，可以通过其他神经元的线性组合替换神经元，从而改善减少。我们在句法和语义抽象上应用这种方法，并进行实证实现和评估。此外，我们引入了一种改进方法用于我们的抽象，以在减少和精确性之间找到更好的平衡。

    Jul, 2023

  • 基于贝叶斯神经网络的对抗鲁棒性认证

    通过权重区间采样的计算框架，对贝叶斯神经网络（BNNs）的鲁棒性进行了证明，包括在分类及回归等多种任务中的使用。

    Jun, 2023

  • 神经网络鲁棒性解释和评估

    该研究提出了一种定量指标来评估神经网络模型的内在稳健性，并通过损失可视化的方式解释了对抗攻击和防御机制。该指标具有快速生成、结构和参数规模无关、可靠性高的优点，并提供了一种相对于不同测试设置不变的评估方法。

    May, 2019

  • 神经网络全局鲁棒性验证

    本研究提出了一种全局鲁棒性验证方法，用于确定网络分类器不改变其分类的情况，通过利用依赖关系和对未知输入进行的对抗性攻击，该验证方法相较于现有的验证方法在计算精确度和速度方面有显著提升。

    Feb, 2024