Jun, 2024

交易魔鬼：基于随机投资模型和贝叶斯方法的强韧后门攻击

PDF
TL;DR通过操纵音频的风格属性来欺骗语音识别系统的策略性投资型后门攻击（MarketBack）被研究，实验结果表明，当污染少于 1％的训练数据时，MarketBack 在七个受害模型中可实现接近 100％的平均攻击成功率。
voice-activated systemsspeech recognition technologiesbackdoor attacksstochastic investment-based backdoor attackaudio data
发现论文，激发创造
  • 最后之舞：通过扩散模型和贝叶斯方法的强韧后门攻击

    本文研究了基于扩散模型的后门攻击方法，通过注入后门扩散采样和贝叶斯方法到模型的训练数据中，成功地对音频转换器模型进行了攻击。

    Feb, 2024

  • 通过语音转换在深度语音分类中进行后门攻击：伪造真实声音

    利用预训练的语音转换模型生成基于样本的触发器，提高了语音后门攻击的效果和安全性。

    Jun, 2023

  • 通过声音元素实现针对语音识别的隐秘后门攻击

    本文提出了利用声调与音色来设计更隐蔽但有效的语音后门攻击方式，通过实验验证了该方法在各种设置下的有效性和隐蔽性。

    Jul, 2023

  • 漏洞攻击对讲话人验证

    本文通过设计基于聚类的攻击方案，展示了在训练数据中注入隐藏的后门以感染演讲者验证模型的可能性，并证明了现有的后门攻击无法直接用于演讲者验证。该方法不仅为设计新型攻击提供了新的视角，也为提高验证方法的鲁棒性提供了一个坚实的基础。

    Oct, 2020

  • 探索聊天模型的后门漏洞

    最近的研究表明，大型语言模型（LLMs）容易受到称为后门攻击的安全威胁。本研究揭示了在聊天模型上实现的一种新颖的后门攻击方法，通过在不同轮次的用户输入中分发多个触发场景，并只在历史对话中出现了所有触发场景时激活后门，从而实现了高攻击成功率。

    Apr, 2024

  • 通过模型变异测试实现语言模型后门样本检测

    本研究提出了一种基于深度模型突变测试的新型防御方法，可以在 char-level，word-level，sentence-level 以及 style-level 水平上检测恶意后门样本，并在三个基准数据集和三个样式转换数据集上表现出优异的效果。

    Jan, 2023

  • 针对基于 LSTM 的文本分类系统的后门攻击

    本研究在文本分类基于 LSTM 中，通过数据毒化实现后门攻击，注入触发句会导致误分类，被注入的后门攻击难以察觉，对性能影响小。通过在 IMDB 电影评论数据集上进行情感分析实验，证实本攻击的成功率可达 95%。

    May, 2019

  • 通过机器遗忘进行的后门攻击

    近年来，由于深度学习研究和应用的快速发展，人工智能的安全问题变得越来越突出。在这项工作中，我们提出了一种基于机器反学习的黑盒后门攻击方法，通过精心设计的样本对训练集进行增强，然后利用取消学习请求来逐步激活隐藏的后门。我们还提出了两种方法来检测或减轻这种恶意消除学习请求，实验证明：我们的攻击可以成功植入后门到模型中，而分散处理增加了攻击的难度；我们的检测算法能够有效识别减轻样本，而分散处理降低了我们的检测算法的有效性。

    Sep, 2023

  • 防范隐蔽后门攻击

    本文介绍了一些针对语言处理模型的后门攻击进行的防御策略，并且实现了在提高模型对抗后门攻击效果的同时对模型本身影响较小的优化操作。

    May, 2022

  • FlowMur：一种具有有限知识的隐蔽实用音频后门攻击

    提出了一种名为 FlowMur 的隐蔽和实用的音频后门攻击方法，通过构建辅助数据集和代理模型，并优化触发器生成和数据污染过程，增强隐蔽性并提高攻击性能，从而成功实施了高效且难以被检测的后门攻击。

    Dec, 2023