使用验证的全局鲁棒性属性学习安全分类器

MMMay, 2021

使用验证的全局鲁棒性属性学习安全分类器

Learning Security Classifiers with Verified Global Robustness Properties

Yizheng Chen, Shiqi Wang, Yue Qin, Xiaojing Liao, Suman Jana...

TL;DR本文提出了一个框架和工具来训练满足全局鲁棒性的分类器，并通过逐步引导综合来强制验证全局鲁棒性属性，同时结构分类器作为逻辑规则的集合，并在三个安全数据集上展示了在对分类器性能的影响较小的情况下，训练分类器满足不同的全局鲁棒性属性。

Abstract

Many recent works have proposed methods to train classifiers with local robustness properties, which can provably eliminate classes of evasion attacks for most inputs, but not all inputs. Since data distribution shift is very common in security applications, e.g., often observed for malware detection, →

local robustness global robustness security classifiers ensemble of logic rules counterexample guided inductive synthesis

发现论文，激发创造

神经网络全局鲁棒性验证

本研究提出了一种全局鲁棒性验证方法，用于确定网络分类器不改变其分类的情况，通过利用依赖关系和对未知输入进行的对抗性攻击，该验证方法相较于现有的验证方法在计算精确度和速度方面有显著提升。

Feb, 2024

训练稳健的 PDF 恶意软件分类器

本文介绍了一种对 PDF 恶意软件进行训练的方法，通过使用新的距离度量和可验证的稳健性属性来训练分类器，并论证了其有效性和可靠性。

Apr, 2019

全局鲁棒神经网络

通过在网络中加入全局 Lipschitz 边界，文中提出的方法可以快速训练大型强健的神经网络，实现了可证明的最先进的可验证准确性。同时，该方法比最近的可证方法需要的时间和内存少得多，并在在线认证时产生可忽略的成本。

Feb, 2021

为深度神经网络认证全局稳健性

通过利用 PAC 验证框架和统计方法，本研究提出了一种对深度神经网络进行全局鲁棒性评估和验证的高效方法，该方法在评估全局鲁棒性的同时能够有效地找出稀有和多样化的对抗训练的反例。

May, 2024

混合分类器以缓解准确度与健壮性的权衡

机器学习模型在数据驱动的控制系统中取得了巨大的成功，然而标准学习模型通常会受到准确性和鲁棒性之间的权衡的限制，本文建立在最近的 “局部偏置平滑” 方法之上，开发了既具有标准模型高准确性又具有鲁棒模型高鲁棒性的分类器。

Nov, 2023

通过数据本地化对稀疏对抗扰动进行认证鲁棒性

通过对局部化数据分布的理解，提出了一种基于几何形态的简单分类器 Box-NN，并在 MNIST 和 Fashion-MNIST 数据集上取得了对于稀疏攻击的认证稳健性方面的最新研究成果。

May, 2024

随机分类器对抗性样本的鲁棒性

本文研究了对抗攻击的鲁棒性理论，聚焦于随机化分类器并通过统计学习理论和信息论提供了其行为的彻底分析。我们引入了随机化分类器的新鲁棒性概念，在此基础上进行了两项新的贡献：提出了一种新的随机化分类器对抗泛化间隙的上界限和对其进行了一种简单而有效的噪声注入方法来设计鲁棒的随机化分类器。我们还在 CIFAR-10 和 CIFAR-100 标准图像数据集上使用深度神经网络的实验结果证实了我们的发现。

Feb, 2021

对于随机平滑分类器的严格对抗鲁棒性证明

采用输入随机化生成的分类器的集合可以具有很强的鲁棒性，该方法可扩展到更广泛的分布，特别是在离散情况下保证敌对的鲁棒性，并给出了相应的算法，此外，该研究有助于通过假设分类器的函数类来提高保证，并且具有图像和分子数据集上的实际应用。

Jun, 2019

可验证的增强树集合

可验证学习通过训练机器学习模型实现高效的安全验证，该研究从基本集成方法扩展到高级增强树集成，证明了多项式时间内对某些攻击者的强健性验证是可实现的，但对于其他基于范数的攻击者仍然是 NP - 难的。

Feb, 2024

使用超属性验证全局神经网络规范

本研究引入超属性形式主义，提供了表达全局规范的方法，可以通过利用验证通用计算图形的能力验证全局规范，从而扩大了使用现有方法提供的保证范围。

Jun, 2023