ICMLMar, 2019

自动语音识别中难以察觉、强韧和有目标的对抗样本

PDF
TL;DR本论文通过利用听觉掩蔽原理，构造出在听觉上无法察觉的音频对抗样本，取得 100% 的针对性成功率，并且成功地构造出在真实环境噪音扰动下保持有效的针对性音频对抗样本。
发现论文，激发创造
  • 对抗样本攻击自动语音识别

    本篇论文针对语音分类模型进行了首次对抗攻击的研究，其算法成功实现了目标化攻击，并未改变人类听众对音频剪辑的感知。

    Jan, 2018

  • 针对物理攻击的稳健音频对抗样本

    本研究提出了一种生成音频对抗样本的方法，可以在实际场景中攻击一种最先进的语音识别模型。通过模拟播放或录制的变换并将这些变换融合到生成过程中，我们得到的对抗样本具有鲁棒性，能够在不被人类察觉的情况下进行攻击，这表明所提出的音频对抗样本可能会成为一个真正的威胁。

    Oct, 2018

  • 鲁棒且不可察觉的音频对抗例子的综合算法

    音频对抗样本指对自动语音识别系统进行欺骗的音频文件，既能愚弄自动语音识别系统又能在人类听众中听起来正常。本文介绍了一种集成算法，在生成步骤中使用了心理声学模型和房间脉冲响应。我们通过三个实验比较不同方法的效果，包括在模拟环境和真实无线环境中评估鲁棒性，以及在人类研究中评估可感知性。我们的算法在考虑心理声学效果或结合鲁棒性时，信噪比和人类感知研究都有所改善，但错误率有所增加。

    Oct, 2023

  • 音频对抗样本：针对语音转文本的有目标攻击

    利用白盒迭代优化算法针对 Mozilla 的 DeepSpeech 实现针对性的音频对抗性样本进行攻击，成功率为 100％，这种攻击的可行性引入了研究对抗性样本的新领域。

    Jan, 2018

  • 音频对抗样本：利用语音面具的攻击

    我们构造了针对自动语音转文字系统的音频对抗样本，并将其应用于五种最先进的语音转文字系统，实验证明这些对抗样本可以欺骗机器，但人类可以轻易地辨识出其中的话语。这一攻击的可行性为研究机器和人类对话语的感知提供了一个新的领域。

    Feb, 2021

  • 语音命令分类任务中的通用对抗样本

    本文研究了语音指令分类中存在的通用扰动问题，并提出了新的分析框架以测量扰动引入的畸变量。研究表明，通用攻击在不同模型中都能够实现，并且引入的畸变量随着普适性级别的提高而降低。同时，作者指出现有方法在解决语音领域的问题时存在不现实性。

    Nov, 2019

  • 通过心理声学隐藏对自动语音识别系统进行对抗攻击

    本文介绍了一种新型的基于心理声学隐蔽技术的对抗样本，利用 DNN 实现音频输入的提取并利用 backpropagation 算法实现对抗扰动的插入，成功攻击了最先进的语音识别系统，且人耳听不到插入的对抗扰动。

    Aug, 2018

  • 面向神经网络的不可察觉且强韧对抗样本攻击

    该研究提出了一种新的对抗样本攻击方法，考虑到人类感知系统并最大化制作的对抗样本的噪声容忍度，实验结果证明了该技术的有效性。

    Jan, 2018

  • 黑盒音频系统的有针对性对抗样本

    本文采用进化算法和梯度估计两种方法， 结合黑盒攻击策略（不知道模型结构和参数）实现对语音自动识别系统的针对性攻击， 最终在保持音频文件相似度为 94.6% 的前提下，实现了 89.25% 的针对性攻击相似度。

    May, 2018

  • 语音识别系统的通用对抗扰动

    本文揭示了全局对抗音频扰动的存在，该扰动通过对自动语音识别系统的信号进行误转录。我们提出了一种算法来查找单个几乎不可感知的扰动，将其添加到任意语音信号中，很可能欺骗受害的语音识别模型。我们的实验表明，我们提出的技术可以将视觉安全的通用扰动用于最新的自动语音识别系统 - Mozilla DeepSpeech。此外，我们还通过在 WaveNet 基于的 ASR 系统上进行可迁移性测试，表明了这种扰动在未参与训练的模型上有相当广泛的应用。

    May, 2019