May, 2023

QFA2SR：无查询对讲者识别系统进行对抗转移攻击

PDF
TL;DR提出 QFA2SR 黑盒攻击方法，利用对手语音的迁移性，使用三种新方法来改进迁移性，包括量身定制的事件损失函数、SRS 集合和时频腐蚀。在四个流行的商业 API（Microsoft Azure，iFlytek，Jingdong 和 TalentedSoft）上，QFA2SR 的目标迁移性提高了 20.9％-70.7％，在空查询设置中显着优于现有攻击，而对不可察觉性几乎没有影响。在三种广泛传播的语音助手（Google Assistant，Apple Siri 和 TMall Genie）上发射在空气中也很有效，分别获得 60％，46％和 70％的目标可转移性。
adversarial attacksspeaker recognition systemsblack-box attacksrs ensembletransferability
发现论文，激发创造
  • 面向说话人识别的音频对抗样本理解与缓解

    本文系统地探究了基于转换和对抗训练的防御策略，提出了 22 种不同的转换方法，深入评估它们在主要攻击手段下的防御能力，以及对其作用的理解，为进一步的研究提供了有用的洞见和发现，并创建了评估平台 SPEAKERGUARD。

    Jun, 2022

  • 谁是真正的 Bob? 对说话人识别系统的对抗攻击

    本研究是关于演讲者识别系统的对抗攻击的研究，提出了一个名为 FAKEBOB 的攻击方法，并在开源和商业系统上对其进行了针对性攻击以及人类的主观测试。研究表明，现有的四种抵御语音对抗攻击的方法在对抗 FAKEBOB 时都失效，需要寻找更有效的防御方法。

    Nov, 2019

  • 训练要有所侧重：自监督语音识别模型的针对性、可迁移对抗样本

    该论文研究了定向对抗攻击自我训练的自动语音识别模型，发现现代自我训练的自动语音识别模型容易受到对抗攻击的影响，进一步揭示了现代 ASR 体系结构的安全威胁。

    Sep, 2022

  • 通过对抗域适应缓解语音识别误差对口语问答的影响

    该研究提出利用对抗模型来适应 ASR 错误，减少其对口语问答系统的影响，实验证明其效果优于之前的最佳模型。

    Apr, 2019

  • 使用多目标进化优化的对自动语音识别系统的对抗性黑盒攻击

    本文提出了基于多目标进化优化的黑盒攻击 Automatic Speech Recognition (ASR) 系统的框架，并将其应用于两个 ASR 系统：Deepspeech 和 Kaldi-ASR，成功地将这些系统的错误率提高了高达 980%。

    Nov, 2018

  • 音频狡猾：快速、通用和无需同步的跨领域语音识别攻击

    自动语音识别系统的脆弱性研究表明容易受到恶意者攻击，本文设计了一种生成特定特性攻击的方法，并通过在频率域中进行反向傅里叶变换来实现攻击的不变性和鲁棒性，对标准关键字分类任务及 OTA 进行评估，分析并解释了跨域攻击的效率。

    Sep, 2023

  • 幽灵声：黑盒，查询有效的音频对抗攻击通过分秒级音素注入

    通过优化梯度估计，PhantomSound 在几分钟内极大提高了黑盒攻击的查询效率，成功地攻击了语音助手并绕过了真实场景中的生物特征检测机制。

    Sep, 2023

  • 黑盒音频系统的有针对性对抗样本

    本文采用进化算法和梯度估计两种方法， 结合黑盒攻击策略（不知道模型结构和参数）实现对语音自动识别系统的针对性攻击， 最终在保持音频文件相似度为 94.6% 的前提下，实现了 89.25% 的针对性攻击相似度。

    May, 2018

  • 通过音频风格转换评估自动语音识别系统的鲁棒性

    在自动语音识别系统广泛应用的背景下，我们提出了一种基于用户自定义风格转换的攻击方法，结合风格转换和对抗攻击的顺序来实现对 ASR 系统的攻击，实验结果表明我们的方法能够满足用户个性化风格的需求，并在攻击中达到了 82% 的成功率，并且由于我们的用户研究保持了音频的自然性。

    May, 2024

  • SoK：自动语音识别和说话人识别系统遭受攻击的概览

    本研究探讨语音和说话人识别系统的漏洞，并提出一种分类方法来评估此类漏洞。实验表明，对这些模型的攻击普遍失败，因此需要进一步的工作来提供充分的缓解措施。

    Jul, 2020