Apr, 2024

证明说话人识别模型对加性扰动的认证

PDF
TL;DR本文介绍了将鲁棒性认证技术应用于发音者识别领域，并通过对 VoxCeleb 1 和 2 数据集进行实证研究，证明了该方法的有效性，旨在提高声学生物特征识别的鲁棒性，建立新的认证基准，并加速音频领域认证方法的研究和应用。
speaker recognitionadversarial attacksrobustness certificationnorm-bounded additive perturbationsvoice-biometry
发现论文，激发创造
  • 加性噪声认证对抗鲁棒性

    本文提出一种可扩展的用于构造对抗样本的方法，通过建立抵抗对抗扰动和加法噪声之间的联系，提出了一种训练策略，并在 MNIST 等数据集上进行了评估。

    Sep, 2018

  • 面向说话人识别系统的实时、通用和强鲁棒对抗攻击

    本文提出了第一种实时、通用且强健的对抗攻击方案，能通过在任意用户的语音输入上添加通用扰动，在线进行万能识别。同时，利用房间脉冲响应 (RIR) 对声音失真进行建模，提高攻击的鲁棒性。在公共数据集上的实验表明，这种攻击的成功率高达 90% 以上，并且攻击速度比当代非通用攻击快 100 倍。

    Mar, 2020

  • 使用对抗样本进行训练增强的鲁棒语音识别

    本文探讨了使用对抗性样本在训练语音识别系统中以增强深度神经网络声学模型的鲁棒性，结果表明相对于传统的数据通过数据转换技术实现的增强，动态利用当前声学模型参数生成对抗性样本的方法在 Aurora-4 和 CHiME-4 单通道实验中具有显著的改善表现。此外，将对抗性样本与老师 / 学生培训相结合，可以进一步提高识别准确率，Aurora-4 相对误差率降低了 23%。

    Jun, 2018

  • 语音识别系统的通用对抗扰动

    本文揭示了全局对抗音频扰动的存在，该扰动通过对自动语音识别系统的信号进行误转录。我们提出了一种算法来查找单个几乎不可感知的扰动，将其添加到任意语音信号中，很可能欺骗受害的语音识别模型。我们的实验表明，我们提出的技术可以将视觉安全的通用扰动用于最新的自动语音识别系统 - Mozilla DeepSpeech。此外，我们还通过在 WaveNet 基于的 ASR 系统上进行可迁移性测试，表明了这种扰动在未参与训练的模型上有相当广泛的应用。

    May, 2019

  • 面向说话人识别的通用对抗扰动生成网络

    本文研究了针对采用深度学习的生物特征识别系统的攻击方法，并证明了普适性对抗扰动的存在。我们提出了一种生成网络，通过学习低维正态分布与普适性对抗扰动的映射关系，将其应用于扰动输入信号以欺骗训练有素的说话人识别模型，并在 TIMIT 和 LibriSpeech 数据集上的实验结果表明了我们模型的有效性。

    Apr, 2020

  • 集体鲁棒认证的本地随机平滑

    本文提出了一种基于新型局部化随机平滑方法的更普遍的模型合集鲁棒性认证方法，并在图像分割和节点分类任务上得到更高的准确性和更强的认证。

    Oct, 2022

  • 针对物理攻击的稳健音频对抗样本

    本研究提出了一种生成音频对抗样本的方法，可以在实际场景中攻击一种最先进的语音识别模型。通过模拟播放或录制的变换并将这些变换融合到生成过程中，我们得到的对抗样本具有鲁棒性，能够在不被人类察觉的情况下进行攻击，这表明所提出的音频对抗样本可能会成为一个真正的威胁。

    Oct, 2018

  • 针对未知说话人识别的说话人专属阈值设定

    该研究引入了一种新的、具有通用性的说话者特定阈值技术，通过认可音频样本中的说话者来识别未知说话者的虚假身份，还证明了算法的可推广性。

    Jun, 2023

  • 自动语音识别中难以察觉、强韧和有目标的对抗样本

    本论文通过利用听觉掩蔽原理，构造出在听觉上无法察觉的音频对抗样本，取得 100% 的针对性成功率，并且成功地构造出在真实环境噪音扰动下保持有效的针对性音频对抗样本。

    Mar, 2019

  • 通过扩散模型实现更好的认证分割

    本文介绍了一种结合随机平滑和扩散模型的方法，用于认证图像分割预测结果，实现更高的鲁棒性。实验结果表明，该方法平均提高了 21 个百分点的准确度

    Jun, 2023