Mar, 2022

攻击即为防御：利用对自动语音识别系统的攻击设计鲁棒音频验证码

PDF
TL;DR本研究旨在针对当前文字型验证码安全性不足的情况，通过对语音识别技术的攻击论文进行比较分类，提出了一种基于容易理解但难以被自动转录的音频机制验证码来提升 Web 的安全及无障碍性，具有较高的可靠性和难以通过语音转文字技术识别等优势。
发现论文，激发创造
  • 对 Adversarial CAPTCHA 的历史、分类和生成的调查

    通过将敌对示例与 CAPTCHA 结合，生成能够欺骗深度模型的敌对 CAPTCHA，以解决安全性和可用性的权衡问题，本文分类方法并系统回顾生成敌对示例和敌对 CAPTCHA 的常用方法，并分析可用于防御敌对 CAPTCHA 的一些防御方法和潜在威胁，最后探讨了敌对 CAPTCHA 的未来研究方向。

    Nov, 2023

  • 音频对抗样本：针对语音转文本的有目标攻击

    利用白盒迭代优化算法针对 Mozilla 的 DeepSpeech 实现针对性的音频对抗性样本进行攻击，成功率为 100％，这种攻击的可行性引入了研究对抗性样本的新领域。

    Jan, 2018

  • 对抗性验证码

    本研究旨在设计对抗性 CAPTCHA，提高其安全性，同时维持相似的易用性，我们建立了对抗性 CAPTCHA 生成和验证系统，使用了 10 种图像预处理技术，9 种 CAPTCHA 攻击，4 种基线对抗性 CAPTCHA 生成方法，以及 8 种新的对抗性 CAPTCHA 生成方法，并进行扩展的安全性和易用性评估，结果表明，生成的对抗性 CAPTCHA 能够大幅提高普通 CAPTCHA 的安全性，同时保持相似的易用性，我们也开放了 aCAPTCHA 系统源代码、训练模型、数据集和可用性评估界面，以促进 CAPTCHA 安全研究。

    Jan, 2019

  • 音频对抗样本：利用语音面具的攻击

    我们构造了针对自动语音转文字系统的音频对抗样本，并将其应用于五种最先进的语音转文字系统，实验证明这些对抗样本可以欺骗机器，但人类可以轻易地辨识出其中的话语。这一攻击的可行性为研究机器和人类对话语的感知提供了一个新的领域。

    Feb, 2021

  • 对抗样本攻击自动语音识别

    本篇论文针对语音分类模型进行了首次对抗攻击的研究，其算法成功实现了目标化攻击，并未改变人类听众对音频剪辑的感知。

    Jan, 2018

  • 使用深度学习对验证码进行漏洞分析

    该研究旨在调查 CAPTCHA 生成系统中的缺陷和漏洞，以设计更具弹性的 CAPTCHA。通过创建 CapNet，我们提出了一种卷积神经网络平台，旨在评估数字和字母数字 CAPTCHA，从而提高网站的安全性。

    Feb, 2023

  • 自动语音识别中难以察觉、强韧和有目标的对抗样本

    本论文通过利用听觉掩蔽原理，构造出在听觉上无法察觉的音频对抗样本，取得 100% 的针对性成功率，并且成功地构造出在真实环境噪音扰动下保持有效的针对性音频对抗样本。

    Mar, 2019

  • 通过音频风格转换评估自动语音识别系统的鲁棒性

    在自动语音识别系统广泛应用的背景下，我们提出了一种基于用户自定义风格转换的攻击方法，结合风格转换和对抗攻击的顺序来实现对 ASR 系统的攻击，实验结果表明我们的方法能够满足用户个性化风格的需求，并在攻击中达到了 82% 的成功率，并且由于我们的用户研究保持了音频的自然性。

    May, 2024

  • 通过心理声学隐藏对自动语音识别系统进行对抗攻击

    本文介绍了一种新型的基于心理声学隐蔽技术的对抗样本，利用 DNN 实现音频输入的提取并利用 backpropagation 算法实现对抗扰动的插入，成功攻击了最先进的语音识别系统，且人耳听不到插入的对抗扰动。

    Aug, 2018

  • 针对物理攻击的稳健音频对抗样本

    本研究提出了一种生成音频对抗样本的方法，可以在实际场景中攻击一种最先进的语音识别模型。通过模拟播放或录制的变换并将这些变换融合到生成过程中，我们得到的对抗样本具有鲁棒性，能够在不被人类察觉的情况下进行攻击，这表明所提出的音频对抗样本可能会成为一个真正的威胁。

    Oct, 2018