Mar, 2021

DeepCert: 神经网络图像分类器的上下文相关鲁棒性验证

PDF
TL;DRDeepCert 是一种通过支持真实世界图像扰动的编码和系统评估上下文相关的 DNN 鲁棒性以及通过生成上下文相关反例选择适合操作环境的 DNN 图像分类器的工具，可用于验证 DNN 图像分类器的健壮性。
deepcertdnn image classifiersrobustnesscontextually relevant perturbationsformal verification
发现论文，激发创造
  • CNN-Cert: 一种有效的卷积神经网络稳健性认证框架

    提出了一个可用于卷积神经网络的一般且高效的框架 CNN-Cert 以证明鲁棒性，它通过利用卷积层的特殊结构比现有算法快 17 倍到 11 倍，并且在获得相似或更好的证明上限和速度方面超越了最先进的算法。

    Nov, 2018

  • CC-Cert: 一种概率方法来证明神经网络的普适鲁棒性

    本文提出了一种基于 Chernoff-Cramer Bounds 的新型通用概率认证方法，可以用于对抗性攻击环境下的机器学习应用。实验结果支持了我们的理论发现，证明了我们的方法对于语义扰动具有防御能力。

    Sep, 2021

  • 神经网络的精确与广义鲁棒性认证

    该论文提出了一种新的框架 GCERT，可根据语义层面的图像变异准确地验证神经网络的鲁棒性，并通过生成模型的潜在空间中的方向将全面的语义层面的图像变异一致地表示为整体，以获得精确的分析友好的输入空间表示，同时大大缩短了鲁棒性认证的时间成本。

    Jun, 2023

  • 为深度神经网络认证全局稳健性

    通过利用 PAC 验证框架和统计方法，本研究提出了一种对深度神经网络进行全局鲁棒性评估和验证的高效方法，该方法在评估全局鲁棒性的同时能够有效地找出稀有和多样化的对抗训练的反例。

    May, 2024

  • PROVEN：一种基于概率方法验证神经网络的稳健性

    该研究提出了一种概率证明框架 PROVEN，用于验证神经网络在输入加噪时的鲁棒性，可证明分类器的 top-1 预测在受限的 Lp 范数扰动下不会发生改变，证书是基于现有的神经网络鲁棒性验证框架，该方法在 MNIST 和 CIFAR 神经网络模型的实验中取得了 75% 的提升。

    Dec, 2018

  • 图像分类器的鲁棒性和不变性属性

    本文研究了深度神经网络在噪声环境中的鲁棒性和不变性，提出了快速计算稀疏对抗扰动和数据增强方法，与数据之间的特征联系起来，以实现更可靠的机器学习系统。

    Aug, 2022

  • 深度神经网络可靠性认证

    本文对深度神经网络抗对抗攻击的可靠性进行了研究和分析，并提出了目前的防御方法以及相应的理论和实践意义和发现，最后在不同数据集上提供了全面的鲁棒性验证和训练方法。

    Sep, 2020

  • 面向实际分布偏移的认证鲁棒性

    本研究考虑了如何证明深度神经网络对真实世界的分布转化具有鲁棒性，提出了一种基于神经符号学的验证框架，并采用生成模型学习数据扰动，解决了现有验证方法对于许多最先进生成模型的 sigmoid 激活函数的处理问题，实验结果表明，该框架在 MNIST 和 CIFAR-10 数据集上能够显著优于现有方法，可以有效应对各种严峻的分布转化挑战。

    Jun, 2022

  • 连接点：利用语境不一致性检测敌对扰动

    本研究提出了一种基于上下文一致性规则学习的深度神经网络攻击检测方法，通过建立了一组自动编码器来检测违反上下文一致性规则的对抗扰动，实验证明该方法可以有效检测各种对抗攻击。

    Jul, 2020

  • 安全飞机滑行的跑道物体分类器的稳健性评估

    使用形式验证方法评估了一个用于飞机滑行阶段的图像分类器深度神经网络 (DNN) 在噪声、亮度和对比度以及它们的组合等三种常见图像扰动类型下的鲁棒性，结果表明该分类器对噪声比亮度和对比度扰动更加脆弱。

    Jan, 2024