本文研究了一种针对深度神经网络的新攻击范式,即在部署阶段修改模型参数以达到恶意目的,进而将该问题转换为二进制整数规划问题并使用交替方向乘子方法来求解,实验证明该方法优于其他攻击方法。
Feb, 2021
利用混合整数规划公式验证二值化神经网络 (BNN),检查其可行性、MNIST 数据集和飞机冲突避免控制器中的性质,并证明相较于全精度神经网络的最先进的验证算法,通过验证 BNN 节省的时间是值得的。
Mar, 2022
本文提出了一种基于混合整数规划的验证方法,对分段线性神经网络进行验证,以评估其对于对抗样本的脆弱性;通过紧凑的非线性公式和新颖的预处理算法实现了两到三个数量级的计算速度提升,并成功确定了 MNIST 分类器对于一定幅值下的对抗精度,相较于同类算法提供更好的证明。
Nov, 2017
通过将网络干扰问题表示为混合整数线性规划(MILP)实例,然后应用具有充分表征能力的多部分 GNN 来学习这些公式,我们的方法在两个不同任务中表现出优于理论基准模型和传统精确解算器的性能优势。
May, 2024
分析了在大数据、超参数限制条件下对贝叶斯神经网络(BNN)的对抗攻击几何特征,并证明了其后验鲁棒性能和基于梯度的对抗攻击是相关的。在 MNIST 和 Fashion MNIST 数据集中,利用 Hamiltonian Monte Carlo 和 Variational Inference 实现了高精度和鲁棒性。
Feb, 2020
通过将训练二值化神经网络的问题重新定义为一个混合整数规划的亚可加性对偶问题,我们展示了二值化神经网络具有一种平滑可控的表示形式,从而使得在二值化神经网络的背景下可以使用 Bolte 等人的隐式微分的框架,为实际实现反向传播提供了可能。此方法还可以应用于更广泛的混合整数规划类问题,包括在人工智能及其他领域中遇到的符号方法。
Oct, 2023
本文研究了一种新的攻击模式:修改部署阶段的模型参数,提出了一种自定义有效性和隐蔽性的比特翻转权重攻击通用公式,并通过整数规划和交替方向乘子方法在优化中确定了翻转关键比特,成功表明了单一样本攻击和触发样本攻击策略在攻击深度神经网络方面的优越性。
Jul, 2022
本文提出了基于梯度的攻击方法,以解决离散图数据的难点,并基于此提出了第一个面向图神经网络的基于优化的对抗训练,可以提高不同梯度和贪心攻击方法的鲁棒性,同时不牺牲原始图的分类准确性。
Jun, 2019
本文旨在分析大数据下拟贝叶斯神经网络 (Bayesian Neural Networks) 对抗性攻击 (Adversarial Attack) 的几何特征,证明当数据分布存在退化时,对抗性攻击的易感性增加,并证明拟贝叶斯神经网络后验概率分布的期望梯度为零,因此在 MNIST、Fashion MNIST 和半月形数据集上,拟贝叶斯神经网络可展现出对于基于梯度和基于无梯度攻击的同时鲁棒性和高准确率。
研究黑盒攻击图神经网络中节点选择的问题,发现通过基于 PageRank 的重要度计算可提高分类误差率,提出一种基于贪心算法的修正方法能有效地解决被攻击节点数量与分类误差率之间的矛盾。
Jun, 2020