不可察觉的节奏后门攻击：探索节奏转换在语音识别中嵌入无法检测的漏洞

Jun, 2024

不可察觉的节奏后门攻击：探索节奏转换在语音识别中嵌入无法检测的漏洞

Imperceptible Rhythm Backdoor Attacks: Exploring Rhythm Transformation for Embedding Undetectable Vulnerabilities on Speech Recognition

PDF

Wenhan Yao, Jiangkun Yang, Yongqiang He, Jia Liu, Weiping Wen

TL;DR研究了语音识别系统中的后门攻击问题，并提出了一种非神经网络快速算法 Random Spectrogram Rhythm Transformation（RSRT），可以生成具有良好掩盖性的恶意语音样本，实验结果表明该方法具有良好的效果和隐蔽性。

Abstract

speech recognition is an essential start ring of human-computer interaction, and recently, deep learning models have achieved excellent success in this task. However, when the model training and private data prov

speech recognition deep learning models backdoor attacks data poisoning random spectrogram rhythm transformation

发现论文，激发创造

通过声音元素实现针对语音识别的隐秘后门攻击

本文提出了利用声调与音色来设计更隐蔽但有效的语音后门攻击方式，通过实验验证了该方法在各种设置下的有效性和隐蔽性。

Jul, 2023

WaveAttack：基于不对称频率混淆的反向攻击对深度神经网络

该研究论文提出了一种名为 WaveAttack 的新型基于频域的后门攻击方法，通过离散小波变换（DWT）获取图像的高频特征以生成后门触发器，并引入了一种不对称频域混淆方法，通过在训练和推理阶段添加自适应残差来增强触发器的影响，进一步提高了 WaveAttack 的有效性和隐匿性，在图像忠实度方面超过了现有的后门攻击方法。

Oct, 2023

交易魔鬼：基于随机投资模型和贝叶斯方法的强韧后门攻击

通过操纵音频的风格属性来欺骗语音识别系统的策略性投资型后门攻击（MarketBack）被研究，实验结果表明，当污染少于 1％的训练数据时，MarketBack 在七个受害模型中可实现接近 100％的平均攻击成功率。

Jun, 2024

一种双重隐蔽后门：从空间和频率角度

本文提出了一种名为 DUBA 的双重隐蔽后门攻击方法，该方法同时考虑了触发器在时域和频域中的隐蔽性，以实现理想的攻击性能并确保强大的隐蔽性。通过在干净图像中嵌入触发器图像的高频信息，采用傅里叶变换和离散余弦变换在频域中混合毒害图像和干净图像，并采用一种新的攻击策略来进一步提高攻击性能和隐蔽性。对四个数据集上的流行图像分类器进行了广泛评估，结果表明 DUBA 在攻击成功率和隐蔽性方面明显优于现有的后门攻击方法。

Jul, 2023

基于时域分布的视频行为识别反向攻击

本文介绍了一种针对视频数据的简单而有效的后门攻击方法，通过在转化域中添加微不可见、时间分布的触发器来跨视频帧进行攻击，并在对 UCF101、HMDB51 和希腊手语（GSL）数据集进行了广泛的实验验证其有效性，同时通过深入研究发现一种称为 “附带损害” 的有趣效应。

Aug, 2023

面向说话人识别系统的实时、通用和强鲁棒对抗攻击

本文提出了第一种实时、通用且强健的对抗攻击方案，能通过在任意用户的语音输入上添加通用扰动，在线进行万能识别。同时，利用房间脉冲响应 (RIR) 对声音失真进行建模，提高攻击的鲁棒性。在公共数据集上的实验表明，这种攻击的成功率高达 90% 以上，并且攻击速度比当代非通用攻击快 100 倍。

Mar, 2020

通过心理声学隐藏对自动语音识别系统进行对抗攻击

本文介绍了一种新型的基于心理声学隐蔽技术的对抗样本，利用 DNN 实现音频输入的提取并利用 backpropagation 算法实现对抗扰动的插入，成功攻击了最先进的语音识别系统，且人耳听不到插入的对抗扰动。

Aug, 2018

通过语音转换在深度语音分类中进行后门攻击：伪造真实声音

利用预训练的语音转换模型生成基于样本的触发器，提高了语音后门攻击的效果和安全性。

Jun, 2023

通过隐写和正则化对深度神经网络进行不可见的后门攻击

该论文通过在深度神经网络中嵌入不可察觉的触发器，实现了一种无形的后门攻击，旨在欺骗模型产生意外行为，同时提出了两种评估指标，评估攻击成功率、功能性和不可见性，并证明此方法可以有效地防范目前最先进的后门检测方法，例如神经网络清理和 TABOR。

Sep, 2019

基于语义特征的隐形后门攻击

提出了一种新颖的后门攻击方法，通过使用预训练的受害模型从干净图像中提取低级和高级语义特征，并基于通道注意力生成与高级特征相关联的触发模式，然后使用编码器模型生成受污染的图像，同时维持对后门防御的鲁棒性，实验结果表明，该攻击方法在三个知名图像分类深度神经网络上取得了高攻击成功率，同时具有很好的隐秘性。

May, 2024