神经网络验证的端到端基于集合的训练

Jan, 2024

神经网络验证的端到端基于集合的训练

End-To-End Set-Based Training for Neural Network Verification

Lukas Koller, Tobias Ladner, Matthias Althoff

TL;DR神经网络在对抗攻击中容易受到干扰，训练和验证稳健的神经网络是有挑战的，而本论文通过采用端到端的基于集合的训练方法来解决这个问题，该方法使得训练和验证神经网络的稳健性更加简单有效。此外，通过使用集合训练的方法，可以在很多情况下比使用最先进的对抗攻击训练的神经网络表现更好。

Abstract

neural networks are vulnerable to adversarial attacks, i.e., small input perturbations can result in substantially different outputs of a neural network. Safety-critical environments require →

neural networks adversarial attacks robustness formal verification set-based training

发现论文，激发创造

验证友好的深度神经网络

提出了一种生成可验证的神经网络（VNNs）的新框架，该框架通过后训练优化在保留预测性能和鲁棒性之间取得平衡，使得生成的网络在预测性能方面与原始网络相当，并且可以进行验证，以更加高效地建立 VNNs 的强大性。

Dec, 2023

使用 ImageStars 验证深度卷积神经网络

本文介绍了一种基于 ImageStar 的较为高效的 CNN 集合表示方法，实现了对 Real-Word CNNs 鲁棒性的验证，相比现有方法如 DeepZ 和 DeepPoly，需要的输入状态较少、速度更快。

Apr, 2020

神经网络的有效形式安全分析

本文提出了一种有效的方法来严格检查神经网络的不同安全属性，可以检查不同的安全属性并找到具体的反例，比现有方法的性能提高了数个数量级，这种方法也有助于提高神经网络的可解释性并指导训练更加稳健的神经网络。

Sep, 2018

MixTrain: 可验证鲁棒神经网络的可扩展训练

通过提出一种名为 MixTrain 的新技术，本文旨在大大提高以往可检验证训练的效率，并维持高标准的可靠性，实现了在少量训练时间内，其鲁棒性达到 95.2％，相较于现有的可检验证训练方法快 3 倍，而相对于对抗性训练快 15 倍，并且具有较好的扩展性。

Nov, 2018

PROVEN：一种基于概率方法验证神经网络的稳健性

该研究提出了一种概率证明框架 PROVEN，用于验证神经网络在输入加噪时的鲁棒性，可证明分类器的 top-1 预测在受限的 Lp 范数扰动下不会发生改变，证书是基于现有的神经网络鲁棒性验证框架，该方法在 MNIST 和 CIFAR 神经网络模型的实验中取得了 75% 的提升。

Dec, 2018

神经网络验证入门

本书介绍了形式验证的基本概念及其在神经网络和深度学习中的应用，以保证其安全性、健壮性和正确性。

Sep, 2021

深度神经网络的神经符号验证

文章介绍了一种基于神经网络和逻辑规范的神经符号验证框架 Neuro-symbolic Verification，使得现有的神经网络验证基础设施可用于分析复杂的实际特性，从而避免现有神经网络验证技术的严重局限。

Mar, 2022

使用学习的验证器训练已验证的学习者

本文提出了一种新的算法框架，predictor-verifier training，用于训练可验证的神经网络，同时训练两个网络：一个预测网络和一个验证网络以达到最大化输出准确性并满足输入输出特定属性的目标。实验表明，predictor-verifier 架构能够训练出鲁棒性强的神经网络并且训练时间显著减短，在像 MNIST 和 SVHN 这样的小数据集上优于以前的算法，同时能够扩展到 CIFAR-10 并产生首个已知的可验证鲁棒网络。

May, 2018

深度网络可扩展验证的双重方法

本文提出了一种通用的神经网络形式验证框架，通过将验证问题转化为最优化问题，并通过我们提出的松弛算法得到可靠的上界，从而可对神经网络的输入和输出属性满足的规范进行形式化验证。

Mar, 2018

基于集合边界分析的神经网络安全验证

本文提出了一种基于拓扑学视角的集合边界可达性方法，通过利用神经网络的同胚性质，仅需对输入集合的边界进行可达性分析，从而实现神经网络在安全验证问题上的应用。

Oct, 2022