基于图神经网络的恶意域名检测的多实例对抗攻击

Aug, 2023

基于图神经网络的恶意域名检测的多实例对抗攻击

Multi-Instance Adversarial Attack on GNN-Based Malicious Domain Detection

Mahmoud Nazzal, Issa Khalil, Abdallah Khreishah, NhatHai Phan, Yao Ma

TL;DR通过对已有威胁模型的不足进行理论和实证研究，我们提出了 MintA，一个针对基于 GNN 的恶意域名检测的推理时多实例对抗攻击，通过优化扰动改进节点和邻域的隐蔽性，在仅拥有黑盒访问目标模型的情况下操作成功，无需了解模型的具体细节或非对抗节点，实证结果表明其攻击成功率超过 80％，这为安全专家提出了一个警示，突显了 GNN-based MDD 的易受实际攻击的脆弱性和失效性。

Abstract

malicious domain detection (MDD) is an open security challenge that aims to detect if an Internet domain is associated with cyber-attacks. Among many approaches to this problem, graph neural networks (GNNs) are d

malicious domain detection graph neural networks adversarial attack multi-instance evasion gnn-based mdd

发现论文，激发创造

基于 GAN 的领域推断攻击

本文提出了一种基于生成对抗网络的方法来推断目标模型的可能或相似域，即模型域推断攻击（Model Domain Inference Attack）。通过生成数据集的距离来排名候选领域，从而帮助攻击者提高模型转化攻击的效果。

Dec, 2022

将成员推理攻击应用于 GNN 图分类：方法和影响

本论文针对图神经网络的成员推断攻击扩展到了整个图记录的成员推断，通过不同的攻击能力实现了两种攻击类型：基于训练的攻击和基于阈值的攻击，并在七个真实数据集中使用五种代表性的 GNN 模型进行了全面的实验评估，结果表明我们的攻击方法是有效的，对于图级分类任务的 MIAs 更多地与 GNN 的过拟合水平有关。

Oct, 2021

同时扰乱一切：实现可微分的图攻击

通过对图结构进行连续松弛和参数化，我们提出了一种名为 Differentiable Graph Attack（DGA）的新型攻击方法，以高效生成有效的攻击并同时消除了昂贵的重新训练的需求。与最新技术相比，DGA 在不同基准数据集上实现了几乎相等的攻击性能，训练时间减少了 6 倍，GPU 内存占用减少了 11 倍。此外，我们还对 DGA 在不同图模型之间的可转移性以及对广泛使用的防御机制的鲁棒性进行了广泛的实验分析。

Aug, 2023

多重对抗领域适应

本文提出一种多重对抗领域自适应方法 (MADA)，能够捕获多模态结构，利用多个领域判别器实现不同数据分布的精细对齐，利用随机梯度下降计算梯度，证据表明该模型在标准领域自适应数据集上优于现有最先进方法。

Sep, 2018

实时深度学习网络入侵检测系统中的白盒非定向攻击与启发式防御方法

网络入侵检测系统（NIDS）是保护计算机网络免受各种网络攻击和网络安全威胁的关键组成部分。然而，如果 NIDS 本身受到攻击和漏洞，如何保卫防御者？本研究旨在涵盖与 NIDS、对抗性攻击及其防御机制相关的重要方面，以提高基于机器学习和深度学习的 NIDS 的鲁棒性。我们实施了四种强大的对抗性攻击技术，即快速梯度符号方法（FGSM）、雅可比敏感度图攻击（JSMA）、投影梯度下降（PGD）和 Carlini ＆ Wagner（C＆W）在 NIDS 中。我们详细分析了其在各种性能指标方面的性能。此外，我们实施了三种启发式防御策略，即对抗性训练（AT）、高斯数据增强（GDA）和高置信度（HC），以提高在对抗性攻击情况下的 NIDS 鲁棒性。完整的工作流程在实时网络与数据包流中演示，为对对抗性机器学习感兴趣的研究人员提供了整体背景。

Oct, 2023

大规模图的对抗攻击

本文提出了一种简化梯度攻击的方法，可以通过多阶段攻击框架在只需较小子图的情况下使图神经网络误分类。此外，作者还提出了度同配改变这一实用指标来衡量对图数据的对抗攻击的影响。

Sep, 2020

基于图神经网络的网络入侵检测系统的问题空间结构对抗攻击

机器学习在网络入侵检测系统中被广泛应用，但其易受到对抗性攻击的影响。本文提出了特定于图神经网络的对抗性攻击的形式化，并模拟了现实场景中可行的结构攻击。同时，通过实验验证了这些模型对经典基于特征的对抗性攻击的抵抗力提升，同时也展示了它们对结构攻击的脆弱性。

Mar, 2024

自适应领域推断攻击

深度神经网络在敏感应用领域（如医疗保健和安全）中的使用日益增多，了解这些模型能推断出什么样的敏感信息是必要的。本研究探讨了当从模型 API 中删除领域信息是否能保护模型免受攻击，并提出了自适应领域推断攻击（ADI）方法，通过建立概念层次结构和调整未知训练数据中叶子概念出现的可能性，成功地提取了部分训练数据并改善了模型反转攻击的性能。

Dec, 2023

基于解释的 DNNs 恶意软件检测漏洞分析框架

本文提出了一种基于实例攻击的算法，通过数据增强和分析恶意代码的数据组成部分，实现了在黑盒环境下欺骗深度神经网络的目的，从而提高了针对恶意代码的检测系统的鲁棒性。

Sep, 2022

MGA: 动量梯度攻击网络

本文针对基于梯度信息的对抗攻击方法，对深度学习模型的图嵌入算法的有效性造成了影响，提出了一种动量梯度攻击（Momentum Gradient Attack，MGA）算法。该方法通过将动量项融合到迭代过程中，可以稳定更新方向，使模型跳出较差的局部最优解，并增强了其转移能力，实现了更具侵略性的攻击。实验表明，MGA 算法具有更好的攻击效果和转移能力。

Feb, 2020