Nov, 2019

谁是真正的 Bob? 对说话人识别系统的对抗攻击

PDF
TL;DR本研究是关于演讲者识别系统的对抗攻击的研究，提出了一个名为 FAKEBOB 的攻击方法，并在开源和商业系统上对其进行了针对性攻击以及人类的主观测试。研究表明，现有的四种抵御语音对抗攻击的方法在对抗 FAKEBOB 时都失效，需要寻找更有效的防御方法。
speaker recognitionadversarial attacksblack-box settingoptimization problemdefense methods
发现论文，激发创造
  • 面向说话人识别的音频对抗样本理解与缓解

    本文系统地探究了基于转换和对抗训练的防御策略，提出了 22 种不同的转换方法，深入评估它们在主要攻击手段下的防御能力，以及对其作用的理解，为进一步的研究提供了有用的洞见和发现，并创建了评估平台 SPEAKERGUARD。

    Jun, 2022

  • QFA2SR：无查询对讲者识别系统进行对抗转移攻击

    提出 QFA2SR 黑盒攻击方法，利用对手语音的迁移性，使用三种新方法来改进迁移性，包括量身定制的事件损失函数、SRS 集合和时频腐蚀。在四个流行的商业 API（Microsoft Azure，iFlytek，Jingdong 和 TalentedSoft）上，QFA2SR 的目标迁移性提高了 20.9％-70.7％，在空查询设置中显着优于现有攻击，而对不可察觉性几乎没有影响。在三种广泛传播的语音助手（Google Assistant，Apple Siri 和 TMall Genie）上发射在空气中也很有效，分别获得 60％，46％和 70％的目标可转移性。

    May, 2023

  • 面向说话人识别系统的实时、通用和强鲁棒对抗攻击

    本文提出了第一种实时、通用且强健的对抗攻击方案，能通过在任意用户的语音输入上添加通用扰动，在线进行万能识别。同时，利用房间脉冲响应 (RIR) 对声音失真进行建模，提高攻击的鲁棒性。在公共数据集上的实验表明，这种攻击的成功率高达 90% 以上，并且攻击速度比当代非通用攻击快 100 倍。

    Mar, 2020

  • 深度说话人识别系统的对抗攻击与防御策略

    本文研究了深度说话人识别系统所面临的对抗攻击问题，尝试了多种防御方法，并且实验证明了对抗攻击可能会导致准确度降至 0%，并且发现了以投影梯度下降为基础的对抗训练方法是最好的防御手段。

    Aug, 2020

  • SoK：自动语音识别和说话人识别系统遭受攻击的概览

    本研究探讨语音和说话人识别系统的漏洞，并提出一种分类方法来评估此类漏洞。实验表明，对这些模型的攻击普遍失败，因此需要进一步的工作来提供充分的缓解措施。

    Jul, 2020

  • 关于针对现代化发言人识别系统的预处理防御对抗攻击的研究

    本文主要研究针对语音识别系统的对抗攻击以及相应的防御措施，通过对四种已有的攻击方法和四种新的预处理方法进行实验，得到了组合使用 Randomized Smoothing 和 Parallel WaveGAN Vocoder 方法的准确率最高，可以有效防御已知的攻击。

    Jan, 2021

  • 自然语言处理领域中语音识别系统的对抗性攻击综述

    本文介绍 ASR 系统及其攻击方式，分别从白盒与黑盒两个方面探讨对其语音波形的扰动，重点关注攻击的不同实现方法及对系统的影响。

    Aug, 2022

  • 使用多目标进化优化的对自动语音识别系统的对抗性黑盒攻击

    本文提出了基于多目标进化优化的黑盒攻击 Automatic Speech Recognition (ASR) 系统的框架，并将其应用于两个 ASR 系统：Deepspeech 和 Kaldi-ASR，成功地将这些系统的错误率提高了高达 980%。

    Nov, 2018

  • 对抗样本攻击自动语音识别

    本篇论文针对语音分类模型进行了首次对抗攻击的研究，其算法成功实现了目标化攻击，并未改变人类听众对音频剪辑的感知。

    Jan, 2018

  • 黑盒音频系统的有针对性对抗样本

    本文采用进化算法和梯度估计两种方法， 结合黑盒攻击策略（不知道模型结构和参数）实现对语音自动识别系统的针对性攻击， 最终在保持音频文件相似度为 94.6% 的前提下，实现了 89.25% 的针对性攻击相似度。

    May, 2018