MMOct, 2021

针对商业语音平台的黑盒对抗攻击

PDF
TL;DR本文提出了两种新的针对商用云语音 API 和语音控制设备的对抗攻击方法：Occam 和 NI-Occam。在 Occam 中，我们将决策生成视为一个复杂的离散优化问题，通过适应性分解来协作地优化，并在多种语音和说话人识别 API 上取得了 100% 的攻击成功率。在 NI-Occam 中，我们将对抗攻击与模型反演攻击相结合，成功欺骗了多种语音控制设备。
adversarial attacksspeech recognitionvoice controlblack-box attacksmachine learning
发现论文，激发创造
  • 使用多目标进化优化的对自动语音识别系统的对抗性黑盒攻击

    本文提出了基于多目标进化优化的黑盒攻击 Automatic Speech Recognition (ASR) 系统的框架，并将其应用于两个 ASR 系统：Deepspeech 和 Kaldi-ASR，成功地将这些系统的错误率提高了高达 980%。

    Nov, 2018

  • 幽灵声：黑盒，查询有效的音频对抗攻击通过分秒级音素注入

    通过优化梯度估计，PhantomSound 在几分钟内极大提高了黑盒攻击的查询效率，成功地攻击了语音助手并绕过了真实场景中的生物特征检测机制。

    Sep, 2023

  • 黑盒音频系统的有针对性对抗样本

    本文采用进化算法和梯度估计两种方法， 结合黑盒攻击策略（不知道模型结构和参数）实现对语音自动识别系统的针对性攻击， 最终在保持音频文件相似度为 94.6% 的前提下，实现了 89.25% 的针对性攻击相似度。

    May, 2018

  • 语音识别黑盒对抗攻击的神经预测器

    本论文介绍一种基于神经预测的方法 ——NP-Attack，通过逐步演进搜索空间寻找小的对抗性扰动，实现通过较少的查询数目攻击音频样本的目标。实验结果表明，NP-Attack 与其他最先进的黑盒对抗攻击相比，具有竞争力的结果。

    Mar, 2022

  • 针对语音识别和说话人识别系统的实用隐藏语音攻击

    本研究通过掌握音频信号处理算法背后的领域知识，成功实现了黑盒攻击，即针对声音处理系统注入隐藏命令，利用音频特征提取算法进行失真处理，从而攻击了 12 个机器学习模型，并在多个硬件配置中测试并证明其实效性。

    Mar, 2019

  • 对抗样本攻击自动语音识别

    本篇论文针对语音分类模型进行了首次对抗攻击的研究，其算法成功实现了目标化攻击，并未改变人类听众对音频剪辑的感知。

    Jan, 2018

  • 鹦鹉训练的对抗样本：推动黑盒音频攻击对话者识别模型的实践性

    通过最小化黑箱攻击者对目标说话者识别模型的了解，我们提出了一种新机制，称为鹦鹉训练，通过生成听起来像目标说话者的合成语音样本来针对目标模型生成对抗样本，并在联合可迁移性和感知质量框架下研究不同的方法来生成具有高可迁移性和良好人类知觉质量的对抗样本。在真实世界的实验中，得到的对抗样本在数字线路场景中对开源模型的攻击成功率为 45.8% - 80.8%，在无线场景中对包括苹果 HomePod（Siri），亚马逊 Echo 和谷歌 Home 在内的智能设备的攻击成功率为 47.9% - 58.3%。

    Nov, 2023

  • 简单黑盒对抗攻击

    本文介绍了一个基于连续数值置信度分数的、高效构建黑盒中敌对图像的简单迭代算法，并且该算法同样适用于有目标和无目标攻击。作者使用少于 20 行的 PyTorch 代码在 Google Cloud Vision API 中展示了该算法的高效和有效性。

    May, 2019

  • 具有查询次数和信息限制的黑盒对抗攻击

    本文通过定义三种现实世界分类系统的威胁模型（查询限制，部分信息和仅标签），并开发了新的攻击方法，成功的攻击了一个 ImageNet 分类器，并成功的突破了 Google Cloud Vision API 的限制来进行有针对性的黑盒攻击。

    Apr, 2018

  • 高效率黑盒对抗样本查询（已被取代）

    本文提出了一种新的方法，利用自然进化策略在黑盒攻击下生成可靠的对抗样本，并通过新的算法在部分信息下进行有针对性的攻击，无需使用梯度，可以使用少量的请求操作，成功地对商业部署的机器学习系统进行了第一次有针对性的攻击。

    Dec, 2017