Aug, 2022

Link-Backdoor: 通过节点注入的链路预测后门攻击

PDF
TL;DR本文研究了在链接预测中的后门攻击问题，并提出了一种基于伪造节点实现触发器优化的 Link-Backdoor 方法，该方法在多个公开基准数据集上进行了测试，并证明了其在白盒和黑盒攻击场景下均具有最先进的攻击成功率，并且在防御情况下，Link-Backdoor 仍然可以成功攻击表现良好的链接预测模型。
发现论文，激发创造
  • 基于图神经网络的链路预测任务的后门攻击

    本文介绍了一种基于图神经网络的链接预测任务中的后门攻击方法，并揭示了 GNN 模型中存在的安全漏洞，当触发器出现时，后门将被嵌入 GNN 模型中，导致模型错误地预测未连接的两个节点之间存在链接关系。

    Jan, 2024

  • 针对基于 LSTM 的文本分类系统的后门攻击

    本研究在文本分类基于 LSTM 中，通过数据毒化实现后门攻击，注入触发句会导致误分类，被注入的后门攻击难以察觉，对性能影响小。通过在 IMDB 电影评论数据集上进行情感分析实验，证实本攻击的成功率可达 95%。

    May, 2019

  • 具有有限信息和数据的黑盒检测后门攻击

    该论文提出一种基于黑盒模型的反向工程优化算法，用于检测深度神经网络中嵌入的恶意后门攻击，并通过检测结果进行有效的可靠预测，实验表明其可以有效地应对多种后门攻击。

    Mar, 2021

  • 标签一致的后门攻击

    本文利用敌对扰动和生成模型执行高效且标签一致的后门攻击，通过注入似乎合理但难以分类的输入来使模型依赖于（易于学习的）后门触发器，达到攻击的目的。

    Dec, 2019

  • 后门学习：一项调查

    该研究对针对深度神经网络的后门攻击进行了全面的调查，总结和分类现有的后门攻击和防御方法，并提供了分析基于攻击方法的中毒后门攻击的统一框架，并分析了后门攻击与相关领域（如敌对攻击和数据污染）的关系，同时总结了广泛采用的基准数据集。

    Jul, 2020

  • 目标检测的非定向后门攻击

    本研究发现在使用第三方资源训练深度神经网络时容易出现后门威胁，尤其对目标检测等关键应用程序造成威胁。通过无目标特点的简单而有效的毒药后门攻击，我们成功地将后门嵌入目标模型，这可以使模型无法检测到任何与我们的触发模式带有标记的物体。我们在基准数据集上进行了广泛的实验，表明这种方法在数字和现实世界的应用都非常有效，并且对潜在防御手段具有抵御力。

    Nov, 2022

  • 卷积神经网络模型中的后门嵌入：通过不可见扰动

    本文介绍了一种特定类型的数据投毒攻击，即后门注入攻击，讨论了攻击者注入后门到深度学习模型中的方法，并提出了两种在不削弱受害者模型有效性的情况下，难以察觉但能实现模型毒化的后门生成方法。我们进行了广泛的实验评估，并证明即使在最弱的攻击者模型下，这种攻击可以在小的注入率（约为 1％）条件下实现高达 90％以上的攻击成功率。

    Aug, 2018

  • 隐蔽触发后门攻击

    本研究提出一种新颖的深度学习后门攻击方式，攻击者能够在训练过程中提供正常标注的毒瘤数据，并在毒瘤数据中隐藏触发器，待测试时再激活攻击，从而欺骗模型，而该攻击方式无法轻易通过最先进的后门攻击的防御算法进行防御。

    Sep, 2019

  • 源代码神经模型中的后门

    本文介绍了如何在源代码任务中注入后门 (backdoors)，并证明了如何使用鲁棒统计学算法来检测恶意数据。

    Jun, 2020

  • 针对图神经网络后门攻击的可解释性防御

    本文提出了第一种基于图神经网络（GNN）的后门攻击检测和防御方法，通过评估模型的透明度和不透明度，识别恶意样本，并利用其可解释性确定最显著的子图，从而减少成功攻击率。

    Sep, 2022