基于贝叶斯优化的黑盒对抗攻击
提出了一种使用贝叶斯优化来进行黑盒攻击的方法,通过在结构性低维子空间中搜索对抗样本来避免 BO 在高维度下的性能问题,实验结果显示该方法相较现有黑盒攻击算法需要更少的查询次数,并且攻击成功率提高了 2 到 10 倍。
Jul, 2020
本文提出了一种使用贝叶斯优化方法对黑盒序列数据模型进行查询有效的对抗样本攻击,有效地提高了攻击成功率并且减小了查询次数和修改率。
Jun, 2022
本研究提出了一种先验引导贝叶斯优化算法,用于黑盒对抗攻击,通过在查询 - based 攻击中结合白盒模型的梯度来改进查询效率。实验证明,与当前黑盒攻击算法相比,该算法在减少查询次数和提高攻击成功率方面具有明显优势。
May, 2024
本文研究了针对机器学习分类器的黑盒攻击,其中每个向模型的查询都会给对手带来一些代价或检测风险。我们的重点是将查询次数最小化作为主要目标。具体而言,我们考虑了在最小化查询次数的同时遵守特征修改成本预算的机器学习分类器攻击问题。我们描述了一种利用贝叶斯优化来最小化查询次数的方法,并发现,在特征修改成本预算较低的情况下,与随机策略相比,查询次数可以减少到大约原来的十分之一。
Dec, 2017
本文介绍了一个基于连续数值置信度分数的、高效构建黑盒中敌对图像的简单迭代算法,并且该算法同样适用于有目标和无目标攻击。作者使用少于 20 行的 PyTorch 代码在 Google Cloud Vision API 中展示了该算法的高效和有效性。
May, 2019
本文提出了一种新的方法,利用自然进化策略在黑盒攻击下生成可靠的对抗样本,并通过新的算法在部分信息下进行有针对性的攻击,无需使用梯度,可以使用少量的请求操作,成功地对商业部署的机器学习系统进行了第一次有针对性的攻击。
Dec, 2017
采用交替方向乘数法 (ADMM) 作为基础框架,结合零阶优化 (ZO) 和贝叶斯优化 (BO) 等技术,提出了两种新的黑匣子对抗攻击方法 ZO-ADMM 和 BO-ADMM,用于各种扭曲度量和反馈设置,相较于现有攻击方法,该方法能够以较低的查询复杂度取得更高的攻击成功率。在图像分类数据集上进行的实证研究证明了该方法的有效性。
Jul, 2019
提出了一种新的针对硬标签的黑盒攻击的优化方法,利用经预训练的替代模型指导优化过程,实验证明该方法在不同目标模型架构下显著提高了攻击的查询效率,攻击成功率较基准测试提高了约 5 倍,特别是在 100 和 250 个查询预算下。
Mar, 2024
本文提出了一个深度学习框架,基于具有随机先验的 bootstrap 整合的神经体系结构,用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系,测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。
Feb, 2023