Aug, 2020

深度说话人识别系统的对抗攻击与防御策略

PDF
TL;DR本文研究了深度说话人识别系统所面临的对抗攻击问题，尝试了多种防御方法，并且实验证明了对抗攻击可能会导致准确度降至 0%，并且发现了以投影梯度下降为基础的对抗训练方法是最好的防御手段。
speaker recognitionadversarial attacksdeep neural network-based classifiersdefense methodsprojected gradient descent
发现论文，激发创造
  • 面向说话人识别系统的实时、通用和强鲁棒对抗攻击

    本文提出了第一种实时、通用且强健的对抗攻击方案，能通过在任意用户的语音输入上添加通用扰动，在线进行万能识别。同时，利用房间脉冲响应 (RIR) 对声音失真进行建模，提高攻击的鲁棒性。在公共数据集上的实验表明，这种攻击的成功率高达 90% 以上，并且攻击速度比当代非通用攻击快 100 倍。

    Mar, 2020

  • 对抗样本攻击自动语音识别

    本篇论文针对语音分类模型进行了首次对抗攻击的研究，其算法成功实现了目标化攻击，并未改变人类听众对音频剪辑的感知。

    Jan, 2018

  • 面向说话人识别的音频对抗样本理解与缓解

    本文系统地探究了基于转换和对抗训练的防御策略，提出了 22 种不同的转换方法，深入评估它们在主要攻击手段下的防御能力，以及对其作用的理解，为进一步的研究提供了有用的洞见和发现，并创建了评估平台 SPEAKERGUARD。

    Jun, 2022

  • 对抗攻击与防御：一项调查

    文章讨论了不同类型的威胁模型下的敌对攻击，以及近期对抗这些攻击的有效方法和挑战，以提高深度学习算法的鲁棒性。

    Sep, 2018

  • 机器学习网络中的对抗攻击与防御：当代综述

    本文综述了近期深度学习中对于对抗攻击和防御技术的研究进展，聚焦于基于深度神经网络的分类模型，并进行了对攻击和防御方法的分类和评价，其中重点介绍了正则化方法在提高模型的鲁棒性方面的应用。此外，还探索了新型攻击方式，如基于搜索、决策、降维和物理世界攻击，并提出了对于未来研究的建议。

    Mar, 2023

  • 自然语言处理中对抗性防御和鲁棒性的调查

    综述了最近几年针对 NLP 中深度神经网络面对对抗干扰的鲁棒性不足和易受攻击的挑战，提出了一种新的分类方法，介绍了不同的对抗防御方法和其在训练中作为正则化机制的应用，并指出了深度神经网络的脆弱性和对其进行防御面临的挑战。

    Mar, 2022

  • 自然语言处理领域中语音识别系统的对抗性攻击综述

    本文介绍 ASR 系统及其攻击方式，分别从白盒与黑盒两个方面探讨对其语音波形的扰动，重点关注攻击的不同实现方法及对系统的影响。

    Aug, 2022

  • 深度排序中的对抗攻击和防御

    本文提出两种针对深度排名系统的攻击，即候选攻击和查询攻击，还提出了一种反折叠三元组防御来提高排序模型的鲁棒性，并通过提出的经验鲁棒性评分来全面度量排名模型的鲁棒性，实验结果表明，我们的防御措施可以显著提高排名系统的鲁棒性，并同时缓解各种攻击。

    Jun, 2021

  • MIXPGD: 语音识别系统的混合对抗训练

    本文提出 mixPGD 对抗训练方法以提高基于深度神经网络的自动语音识别系统的鲁棒性，实验表明该方法比以前的最佳模型在白盒对抗攻击设置下性能提高了 4.1％WER，并且在黑盒攻击设置下也表现出一定的防御能力。

    Mar, 2023

  • 寻找有效的防御者：针对对抗性词语替换的防御基准测试

    本文主要对深度神经网络在对抗攻击下的鲁棒性进行了研究，比较并提出了各种防御方法，最终提出了一种有效的方法提高神经文本分类器的鲁棒性，并在 AGNEWS 和 IMDB 数据集上取得了显著的最高准确率。

    Aug, 2021