Jul, 2020

SoK：自动语音识别和说话人识别系统遭受攻击的概览

PDF
TL;DR本研究探讨语音和说话人识别系统的漏洞，并提出一种分类方法来评估此类漏洞。实验表明，对这些模型的攻击普遍失败，因此需要进一步的工作来提供充分的缓解措施。
发现论文，激发创造
  • 自然语言处理领域中语音识别系统的对抗性攻击综述

    本文介绍 ASR 系统及其攻击方式，分别从白盒与黑盒两个方面探讨对其语音波形的扰动，重点关注攻击的不同实现方法及对系统的影响。

    Aug, 2022

  • 自动说话人验证中的防御者视角：一综述

    该研究论文旨在全面系统地概述自动说话者验证中用于防御欺诈攻击的方法，包括重播和合成语音，以及对抗性攻击和最近出现的部分假语音。

    May, 2023

  • 面对对抗攻击的自动语音识别模型最近的改进

    改进语音识别模型的鲁棒性需要从评估攻击转向系统化评估，通过在不同架构上评估代表性的对抗性攻击，我们发现不同攻击算法的相对强度在更改模型架构时会有相当大的差异，并且某些攻击的结果不能盲目信任，自我监督预训练等培训选择可显着影响鲁棒性。

    Mar, 2022

  • 语音识别系统对抗攻击中的语言依赖性

    本文研究比较德语与英语语音识别系统的攻击性漏洞，结果表明生成对抗样本所需的计算工作与其语言模型有关，并鼓励在 ASR 的鲁棒性分析中进一步研究与语言相关的特征。

    Feb, 2022

  • 使用多目标进化优化的对自动语音识别系统的对抗性黑盒攻击

    本文提出了基于多目标进化优化的黑盒攻击 Automatic Speech Recognition (ASR) 系统的框架，并将其应用于两个 ASR 系统：Deepspeech 和 Kaldi-ASR，成功地将这些系统的错误率提高了高达 980%。

    Nov, 2018

  • 自动语音识别系统为什么不更具包容性？：自动语音识别系统的偏见及其缓解方法。一篇文献综述

    本研究针对自动语音识别的性别、种族、病残等偏见现象，探讨为缓解这些歧视提出的去偏见技术，并讨论设计更具通用性和包容性的语音识别技术。对于每种探讨方法，本文提供研究摘要、应用方法和研究结果，并强调其优点和 / 或缺点。最后，还提出了自然语言处理研究人员应在下一级别的 ASR 技术创新方面探索的未来机会。

    Nov, 2022

  • 对抗样本攻击自动语音识别

    本篇论文针对语音分类模型进行了首次对抗攻击的研究，其算法成功实现了目标化攻击，并未改变人类听众对音频剪辑的感知。

    Jan, 2018

  • 消失的命令：使用声音掩蔽对自动语音识别系统进行欺骗攻击

    深度学习技术发展促进了语音识别技术的性能提高，但是现有研究表明 DNN 对微小干扰敏感且容易产生误识别，这对被语音控制的智能语音应用来说极为危险。

    Apr, 2022

  • 自动语音识别中的偏见量化

    本文旨在检测 ASR 系统中存在的性别、年龄、方言和非母语口音等方面引起的偏见，提出针对 ASR 开发的偏见缓解策略，主要关注数据集中由发音差异导致的各种偏见。

    Mar, 2021

  • 面向说话人识别系统的实时、通用和强鲁棒对抗攻击

    本文提出了第一种实时、通用且强健的对抗攻击方案，能通过在任意用户的语音输入上添加通用扰动，在线进行万能识别。同时，利用房间脉冲响应 (RIR) 对声音失真进行建模，提高攻击的鲁棒性。在公共数据集上的实验表明，这种攻击的成功率高达 90% 以上，并且攻击速度比当代非通用攻击快 100 倍。

    Mar, 2020