COLINGFeb, 2021

音频对抗样本：利用语音面具的攻击

PDF
TL;DR我们构造了针对自动语音转文字系统的音频对抗样本，并将其应用于五种最先进的语音转文字系统，实验证明这些对抗样本可以欺骗机器，但人类可以轻易地辨识出其中的话语。这一攻击的可行性为研究机器和人类对话语的感知提供了一个新的领域。
adversarial examplesspeech-to-textdeepspeechjuliuswav2letter
发现论文，激发创造
  • 音频对抗样本：针对语音转文本的有目标攻击

    利用白盒迭代优化算法针对 Mozilla 的 DeepSpeech 实现针对性的音频对抗性样本进行攻击，成功率为 100％，这种攻击的可行性引入了研究对抗性样本的新领域。

    Jan, 2018

  • 自动语音识别中难以察觉、强韧和有目标的对抗样本

    本论文通过利用听觉掩蔽原理，构造出在听觉上无法察觉的音频对抗样本，取得 100% 的针对性成功率，并且成功地构造出在真实环境噪音扰动下保持有效的针对性音频对抗样本。

    Mar, 2019

  • 对抗样本攻击自动语音识别

    本篇论文针对语音分类模型进行了首次对抗攻击的研究，其算法成功实现了目标化攻击，并未改变人类听众对音频剪辑的感知。

    Jan, 2018

  • 通过心理声学隐藏对自动语音识别系统进行对抗攻击

    本文介绍了一种新型的基于心理声学隐蔽技术的对抗样本，利用 DNN 实现音频输入的提取并利用 backpropagation 算法实现对抗扰动的插入，成功攻击了最先进的语音识别系统，且人耳听不到插入的对抗扰动。

    Aug, 2018

  • 针对物理攻击的稳健音频对抗样本

    本研究提出了一种生成音频对抗样本的方法，可以在实际场景中攻击一种最先进的语音识别模型。通过模拟播放或录制的变换并将这些变换融合到生成过程中，我们得到的对抗样本具有鲁棒性，能够在不被人类察觉的情况下进行攻击，这表明所提出的音频对抗样本可能会成为一个真正的威胁。

    Oct, 2018

  • 对端对端说话人验证的对抗性样本欺骗

    本文表明，最近提出的使用端到端深度神经模型训练的说话人验证系统容易受到对抗性样本攻击，攻击后该系统的准确性会降低并且误判率会显著增加

    Jan, 2018

  • 自然语言处理领域中语音识别系统的对抗性攻击综述

    本文介绍 ASR 系统及其攻击方式，分别从白盒与黑盒两个方面探讨对其语音波形的扰动，重点关注攻击的不同实现方法及对系统的影响。

    Aug, 2022

  • 黑盒音频系统的有针对性对抗样本

    本文采用进化算法和梯度估计两种方法， 结合黑盒攻击策略（不知道模型结构和参数）实现对语音自动识别系统的针对性攻击， 最终在保持音频文件相似度为 94.6% 的前提下，实现了 89.25% 的针对性攻击相似度。

    May, 2018

  • 声音防御：语音转换的对抗攻击

    论文报告了首次对语音转换进行对抗性攻击的尝试，以保护用户的隐私和身份识别。在两个现有的零样本语音转换模型上进行了实验，显示攻击样本具有良好的隐蔽性和转换效果显著。

    May, 2020

  • 针对语音语调应用的对抗性样本制造

    本研究提出了一种通过扰动音频录音的原始波形而生成对抗性示例的端到端方案，以用于计算言语分析等应用，其实验结果表明，所提出的对抗扰动可以显著降低最先进的深度神经网络的性能，而音质仅受到轻微损失。

    Nov, 2017