本文提出了两种新的针对商用云语音 API 和语音控制设备的对抗攻击方法：Occam 和 NI-Occam。在 Occam 中，我们将决策生成视为一个复杂的离散优化问题，通过适应性分解来协作地优化，并在多种语音和说话人识别 API 上取得了 100% 的攻击成功率。在 NI-Occam 中，我们将对抗攻击与模型反演攻击相结合，成功欺骗了多种语音控制设备。

Oct, 2021

本研究通过掌握音频信号处理算法背后的领域知识，成功实现了黑盒攻击，即针对声音处理系统注入隐藏命令，利用音频特征提取算法进行失真处理，从而攻击了 12 个机器学习模型，并在多个硬件配置中测试并证明其实效性。

Mar, 2019

利用白盒迭代优化算法针对 Mozilla 的 DeepSpeech 实现针对性的音频对抗性样本进行攻击，成功率为 100％，这种攻击的可行性引入了研究对抗性样本的新领域。

Jan, 2018

本文采用进化算法和梯度估计两种方法， 结合黑盒攻击策略（不知道模型结构和参数）实现对语音自动识别系统的针对性攻击， 最终在保持音频文件相似度为 94.6% 的前提下，实现了 89.25% 的针对性攻击相似度。

May, 2018

本研究提出了一种生成音频对抗样本的方法，可以在实际场景中攻击一种最先进的语音识别模型。通过模拟播放或录制的变换并将这些变换融合到生成过程中，我们得到的对抗样本具有鲁棒性，能够在不被人类察觉的情况下进行攻击，这表明所提出的音频对抗样本可能会成为一个真正的威胁。

Oct, 2018

本文介绍了一种新型的基于心理声学隐蔽技术的对抗样本，利用 DNN 实现音频输入的提取并利用 backpropagation 算法实现对抗扰动的插入，成功攻击了最先进的语音识别系统，且人耳听不到插入的对抗扰动。

Aug, 2018

通过最小化黑箱攻击者对目标说话者识别模型的了解，我们提出了一种新机制，称为鹦鹉训练，通过生成听起来像目标说话者的合成语音样本来针对目标模型生成对抗样本，并在联合可迁移性和感知质量框架下研究不同的方法来生成具有高可迁移性和良好人类知觉质量的对抗样本。在真实世界的实验中，得到的对抗样本在数字线路场景中对开源模型的攻击成功率为 45.8% - 80.8%，在无线场景中对包括苹果 HomePod（Siri），亚马逊 Echo 和谷歌 Home 在内的智能设备的攻击成功率为 47.9% - 58.3%。

Nov, 2023

提出 QFA2SR 黑盒攻击方法，利用对手语音的迁移性，使用三种新方法来改进迁移性，包括量身定制的事件损失函数、SRS 集合和时频腐蚀。在四个流行的商业 API（Microsoft Azure，iFlytek，Jingdong 和 TalentedSoft）上，QFA2SR 的目标迁移性提高了 20.9％-70.7％，在空查询设置中显着优于现有攻击，而对不可察觉性几乎没有影响。在三种广泛传播的语音助手（Google Assistant，Apple Siri 和 TMall Genie）上发射在空气中也很有效，分别获得 60％，46％和 70％的目标可转移性。

May, 2023

本文提出了基于多目标进化优化的黑盒攻击 Automatic Speech Recognition (ASR) 系统的框架，并将其应用于两个 ASR 系统：Deepspeech 和 Kaldi-ASR，成功地将这些系统的错误率提高了高达 980%。

Nov, 2018

本论文介绍一种基于神经预测的方法 ——NP-Attack，通过逐步演进搜索空间寻找小的对抗性扰动，实现通过较少的查询数目攻击音频样本的目标。实验结果表明，NP-Attack 与其他最先进的黑盒对抗攻击相比，具有竞争力的结果。

Mar, 2022