Feb, 2024

基于人工神经网络行为可解释性的逃避攻击的拓扑保障

PDF
TL;DR通过分析神经元的激活信息和目标深度学习模型的拓扑结构，本研究开发了一种新型的逃避攻击检测器，利用图卷积神经网络（GCN）技术来理解目标模型的拓扑结构，取得了较为理想的结果与相关文献中的类似防御方法相比。
deep learningcybersecurityevasion attackdetectorgraph convolutional neural network
发现论文，激发创造
  • 基于区域分类的深度神经网络逃避攻击缓解

    本研究旨在提出一种新的分类方法以应对深度神经网络在面对对抗性攻击时的困难，基于该方法，我们可以在保证较高的分类准确性的同时，显著降低各类对抗攻击所带来的影响。

    Sep, 2017

  • 测试时针对机器学习的逃避攻击

    本文研究了机器学习在安全敏感应用中的应用，提出了一种基于梯度的方法来评估分类算法在对抗攻击下的安全性，并针对 PDF 文件中的恶意软件检测任务进行了实验，同时提出了一些相应的反制措施。

    Aug, 2017

  • 深度神经网络的生物启发式防卫对抗攻击技术

    应用生物物理学原理进行非线性计算后，我们开发了一种方案来训练深度神经网络以使它们对抗性攻击具有强鲁棒性。该方案生成高度非线性，饱和的神经网络，即使在没有遭受敌对的选择性训练样本的情况下，在 MNIST 上也实现了状态的最先进表现。

    Mar, 2017

  • 对抗规避攻击的攻击树分析

    该研究提出了一种使用攻击树分析逃避攻击风险的量化评估方法，通过引入深度学习和传统攻击节点来表示逃避攻击的各种特征，并提出了构建攻击树的系统性构建过程，最后通过实验验证了该方法的多功能性和有效性。

    Dec, 2023

  • 针对图神经网络后门攻击的可解释性防御

    本文提出了第一种基于图神经网络（GNN）的后门攻击检测和防御方法，通过评估模型的透明度和不透明度，识别恶意样本，并利用其可解释性确定最显著的子图，从而减少成功攻击率。

    Sep, 2022

  • 基于图形方法和特定分布距离的对抗攻击检测

    通过对神经网络体系结构的图形研究，引入了一种新的从图形角度检测和解释对抗攻击的方法，并利用特定的度量来预测和解释对抗攻击。研究结果表明，基于图形的方法有助于研究对抗攻击的内部工作方式。

    May, 2023

  • 图形后门

    研究探讨了 GNN 中的防后门攻击，提出了一种新的攻击方法 GTA，可以在各类安全应用中袭击任何实验中的模型；该攻击方法是基于子图，能够在不了解下游模型或微调策略的情况下立即启动，并在基准数据集和最先进的模型上进行了广泛的评估。

    Jun, 2020

  • 防御深度神经网络后门攻击

    本文研究深度神经网络面临的后门攻击问题，提出了基于 L∞规范的神经元修剪方法来消除后门，实验证明该方法成功率显著降低，并对清晰图像保持高分类准确度。

    Feb, 2020

  • 图形上的对抗攻击与防御：一项综述，一项工具和实证研究

    该研究论文介绍 Deep Neural Networks 和 Graph Neural Networks 对抗攻击的脆弱性，提出了相关攻击和防御的借鉴，以及一个算法库用于研究对抗攻击和防御。

    Mar, 2020

  • 图数据神经网络的对抗攻击

    本文主要介绍了第一项针对属性通用图的对抗攻击研究，特别关注利用图卷积思想的模型，在针对测试及训练阶段的攻击中生成针对节点特征和图结构的对抗扰动，并确保这些扰动在保存重要数据特征的同时，不被察觉，旨在帮助更好地理解和缓解目前深度学习模型在对抗环境下的不足。

    May, 2018