Jul, 2022

拉丁超立方采样基于查询效率的对抗攻击

PDF
TL;DR本文提出了一种 Latin Hypercube Sampling based Boundary Attack (LHS-BA) 方法，其相比于现有的 SRS 方法，具有更好的均匀性和查询效率，可有效地生成边界攻击样本。在多个数据集上的实验表明，该方法的表现优于现有的边界攻击方法，并且其源代码可在链接中公开获取。
boundary attacksadversarial exampleslatin hypercube samplingquery efficiencymachine learning
发现论文，激发创造
  • 黑盒环境下查询效率攻击的强基准

    该研究提出了一种查询效率高的攻击策略来生成文本分类和蕴含任务中的可信对抗性样例，并通过使用注意力机制和局部敏感哈希来减少查询次数。对三个不同的搜索空间使用四种基线进行比较，平均来说我们在所有数据集和目标模型中将查询次数降低了 75％。在受限查询设置中，与以前的攻击相比，我们的攻击成功率更高。

    Sep, 2021

  • QEBA: 基于边界的黑盒攻击高效查询方案

    本文介绍了一种基于模型终极预测标签的查询高效边界型黑盒攻击 (QEBA)，并在 ImageNet 和 CelebA 数据集上进行了广泛的实验。实验结果表明，与最先进的黑盒攻击相比，QEBA 能够使用更少的查询次数以更低的扰动量实现攻击，并在实际 API 上展示了攻击案例。

    May, 2020

  • BruSLeAttack：一种查询高效的基于评分的黑盒稀疏对抗攻击

    我们研究了通过观察模型查询的基于分数回复而生成稀疏对抗样本的独特且不太被理解的问题。我们提出了 BruSLeAttack 这一更快（更高效）的贝叶斯算法，用于构建稀疏对抗扰动，并在图像分类任务中达到了最先进的攻击成功率和查询效率，从而帮助更快地评估模型的漏洞性，提高我们对部署系统的安全性和可靠性的警觉。

    Apr, 2024

  • 拉丁超立方抽样的泛化

    本文介绍了部分分层样本设计，扩展了拉丁超立方抽样（Latin hypercube sampling，LHS）。该方法利用拉丁超立方抽样和分层抽样的优势减少了误差方差，且可以专门设计降低给定问题方差。通过在薄板屈曲问题上的应用，使其成为不确定性量化的最佳样本策略。

    Jul, 2015

  • HopSkipJumpAttack: 一种查询效率高的基于决策的攻击

    本文介绍了一个基于决策的敌对攻击算法，名为 HopSkipJumpAttack，其通过在决策边界处利用二进制信息来估计梯度方向以生成对抗性样本，并提供了理论分析和实验验证。

    Apr, 2019

  • STBA: 针对查询受限黑盒情景评估深度神经网络的鲁棒性

    提出了一种在查询有限环境下构造强大对抗性例子的新框架 STBA，通过引入流场到干净图像的高频部分来生成对抗性例子，结合有效的梯度估计方法，显著提高了对抗性例子的真实性和攻击成功率。

    Mar, 2024

  • 基于投影与概率的黑盒攻击

    通过压缩感知和概率驱动策略，利用少量请求达到更好的优化效果，从而解决黑盒攻击中存在的过多请求的问题，并在与其他攻击方法比较后证明其具有更高的攻击成功率。

    May, 2020

  • CGBA：曲率感知的几何黑盒攻击

    提出了一种新的查询高效的曲率感知几何决策黑盒攻击方法，使用半圆路径在受限的 2D 平面上进行边界搜索，有效地利用较低曲率来构造高质量的对抗样本，相比最先进的非目标和目标攻击方法显示出更优越的性能。

    Aug, 2023

  • 探索多维空间：拉丁超立方和准蒙特卡罗采样技术比较

    比较三种采样方法的效率，并证明基于 Sobol 序列的准蒙特卡罗方法具有卓越的性能，适用于大多数复杂度的测试问题。

    May, 2015

  • 利用可迁移的先验知识和查询反馈学习黑盒攻击者

    提出了一种名为 “Learnable Black-Box Attack” 的新方法，将基于转移和基于查询的黑盒攻击相结合，在 Surrogate Model 下进行攻击，并通过高阶梯度逼近（HOGA）有效地利用了查询反馈。实验结果表明，“Learnable Black-Box Attack” 方法明显优于现有技术。

    Oct, 2020