May, 2023

利用输出概率分布特征识别对抗性音频示例

PDF
TL;DR为了防止对基于机器学习的自动语音识别系统的攻击，我们提出了一种适用于任何预测每个时间步长输出令牌概率分布的 ASR 系统的对抗性示例检测策略。通过计算新音频的可能性，我们可以区分恶意输入和来自干净数据样本的方法，而不影响对质量较差音频的检测。
adversarial attacksmachine learningautomatic speech recognitiondetection strategylikelihood
发现论文，激发创造
  • 通过异常模式检测识别音频对抗样本

    本文研究基于深度神经网络的音频处理模型容易受到对抗攻击的问题，提出了在激活空间中应用异常模式检测技术来检测对抗性样本，并可以在不降低对良性样本性能的情况下检测出两种最新的对抗攻击，AUC 最高可达 0.98。

    Feb, 2020

  • 自动语音识别中难以察觉、强韧和有目标的对抗样本

    本论文通过利用听觉掩蔽原理，构造出在听觉上无法察觉的音频对抗样本，取得 100% 的针对性成功率，并且成功地构造出在真实环境噪音扰动下保持有效的针对性音频对抗样本。

    Mar, 2019

  • 黑盒音频系统的有针对性对抗样本

    本文采用进化算法和梯度估计两种方法， 结合黑盒攻击策略（不知道模型结构和参数）实现对语音自动识别系统的针对性攻击， 最终在保持音频文件相似度为 94.6% 的前提下，实现了 89.25% 的针对性攻击相似度。

    May, 2018

  • 音频对抗样本：针对语音转文本的有目标攻击

    利用白盒迭代优化算法针对 Mozilla 的 DeepSpeech 实现针对性的音频对抗性样本进行攻击，成功率为 100％，这种攻击的可行性引入了研究对抗性样本的新领域。

    Jan, 2018

  • 对抗样本攻击自动语音识别

    本篇论文针对语音分类模型进行了首次对抗攻击的研究，其算法成功实现了目标化攻击，并未改变人类听众对音频剪辑的感知。

    Jan, 2018

  • 利用时间依赖性表征音频对抗样本

    本文旨在探索利用时间依赖性对抗音频示例的潜力，结果表明利用时间依赖性可以抵御音频对抗示例并提高语音识别系统的鲁棒性。

    Sep, 2018

  • 揭示针对说话人识别的对抗样本 -- 攻击检测和受害模型分类的技术

    提出了一种检测对抗性示例的方法，基于新的架构进行攻击类型分类并介绍一种对受害模型进行识别的方法，获得了较高的检测准确率和分类准确率。

    Feb, 2024

  • 鲁棒且不可察觉的音频对抗例子的综合算法

    音频对抗样本指对自动语音识别系统进行欺骗的音频文件，既能愚弄自动语音识别系统又能在人类听众中听起来正常。本文介绍了一种集成算法，在生成步骤中使用了心理声学模型和房间脉冲响应。我们通过三个实验比较不同方法的效果，包括在模拟环境和真实无线环境中评估鲁棒性，以及在人类研究中评估可感知性。我们的算法在考虑心理声学效果或结合鲁棒性时，信噪比和人类感知研究都有所改善，但错误率有所增加。

    Oct, 2023

  • 检测音视频语音识别的对抗攻击

    本研究提出了一种基于音频和视频流之间时间相关性的攻击检测方法，利用同步置信度得分作为音视频相关性代理来检测对音视频语音识别模型的对抗攻击，并在 GRID 和 LRW 数据集上的实验结果表明该方法是检测此类攻击的有效方式。

    Dec, 2019

  • 语音命令分类任务中的通用对抗样本

    本文研究了语音指令分类中存在的通用扰动问题，并提出了新的分析框架以测量扰动引入的畸变量。研究表明，通用攻击在不同模型中都能够实现，并且引入的畸变量随着普适性级别的提高而降低。同时，作者指出现有方法在解决语音领域的问题时存在不现实性。

    Nov, 2019