Dec, 2022

基于声纹选择和语音转换的关键词检测后门攻击

PDF
TL;DR使用 Voiceprint Selection 和 Voice Conversion 的后门攻击方案可以成功地攻击基于深度神经网络的关键词识别系统，从而引起误判。
keyword spottingdeep neural networksbackdoor attackvoice controltraining data
发现论文，激发创造
  • 基于声调增强和声音遮蔽的关键词检测后门攻击

    本文提出了一种基于 Pitch Boosting 和 Sound Masking 的关键词检索（KWS）后门攻击方案（PBSM），实验结果表明可以在污染少于 1% 的训练数据的情况下实现约 90% 的攻击成功率。

    Nov, 2022

  • 通过语音转换在深度语音分类中进行后门攻击：伪造真实声音

    利用预训练的语音转换模型生成基于样本的触发器，提高了语音后门攻击的效果和安全性。

    Jun, 2023

  • MASTERKEY: 实用的针对说话人验证系统的后门攻击

    提出了一种名为 MASTERKEY 的后门攻击，针对智能手机系统中的说话者验证模型进行破坏，通过设计通用后门攻击任意目标说话者，成功率 100％，中毒率为 15％，在 3％中毒率时也能保持 50％的成功率。

    Sep, 2023

  • 针对语音识别和说话人识别系统的实用隐藏语音攻击

    本研究通过掌握音频信号处理算法背后的领域知识，成功实现了黑盒攻击，即针对声音处理系统注入隐藏命令，利用音频特征提取算法进行失真处理，从而攻击了 12 个机器学习模型，并在多个硬件配置中测试并证明其实效性。

    Mar, 2019

  • 漏洞攻击对讲话人验证

    本文通过设计基于聚类的攻击方案，展示了在训练数据中注入隐藏的后门以感染演讲者验证模型的可能性，并证明了现有的后门攻击无法直接用于演讲者验证。该方法不仅为设计新型攻击提供了新的视角，也为提高验证方法的鲁棒性提供了一个坚实的基础。

    Oct, 2020

  • 交易魔鬼：基于随机投资模型和贝叶斯方法的强韧后门攻击

    通过操纵音频的风格属性来欺骗语音识别系统的策略性投资型后门攻击（MarketBack）被研究，实验结果表明，当污染少于 1％的训练数据时，MarketBack 在七个受害模型中可实现接近 100％的平均攻击成功率。

    Jun, 2024

  • 通过声音元素实现针对语音识别的隐秘后门攻击

    本文提出了利用声调与音色来设计更隐蔽但有效的语音后门攻击方式，通过实验验证了该方法在各种设置下的有效性和隐蔽性。

    Jul, 2023

  • 声纹鉴别中的数据毒化攻击防御

    该论文基于深度学习，研究语音身份验证系统的安全性问题，并提出了一种新的防御方法 Guardian，利用卷积神经网络鉴别攻击和正常帐户，准确率为 95%。

    Sep, 2022

  • 具有可视、语义、样本特异性和兼容触发器的强韧后门攻击

    本文提出了一种名为 VSSC-trigger 的嵌入稳定扩散模型的新方法，使用文本触发器和良性图像生成对比度适当的图像，并解决了之前的不可见触发器在实际运用时出现的可见扭曲问题。

    Jun, 2023

  • 基于微控制器的关键词识别技术

    本研究旨在针对资源受限的微控制器上运行的关键词检测（Keyword spotting，KWS）应用，对神经网络架构进行评估和探索。我们训练了各种已经在文献中发表的用于关键词检测的神经网络架构，比较了它们的准确性和存储器 / 计算要求。我们表明，我们可以优化这些神经网络架构来适应微控制器的存储器和计算限制，而不会牺牲准确性。此外，我们进一步探索了深度可分离卷积神经网络（DS-CNN），并将其与其他神经网络架构进行了比较。DS-CNN 实现了 95.4％的准确性，比具有类似参数数量的 DNN 模型高出约 10％。

    Nov, 2017