Jul, 2023

基于随机游走的异常检测的双重空间攻击

PDF
TL;DR基于随机游走的异常检测（RWAD）常用于在各种应用中识别异常模式。本文通过设计实用的双空间攻击，研究了图空间和特征空间攻击之间的相互作用，并提出了解决图空间攻击的两种策略：交替迭代攻击（alterI-attack）和利用随机游走模型的闭合解（cf-attack）。通过在有限的攻击预算下，全面实验表明我们的攻击方法有效地使目标节点成为 RWAD 的一部分，并进行了黑盒情况下的传递攻击实验，结果显示我们的特征攻击显著降低目标节点的异常分数。我们的研究为研究图异常检测中的双空间攻击打开了大门，其中图空间依赖于特征空间。
random walks-based anomaly detectiongraph-space attacksfeature-space attacksdual-space attacksgraph anomaly detection
发现论文，激发创造
  • 对问题空间中对抗性机器学习攻击的有趣特性

    本文提出了对问题空间中的对抗性机器学习的新形式化方法，并使用该方法描述了相关文献中的多种攻击方式。在此基础上，我们提出了一个突破过去限制的 Android 恶意软件问题空间攻击，自动生成成千上万个逼真和不引人注意的对抗性应用程序，这表明 “对抗恶意软件即服务” 是一种现实威胁。我们的研究为此领域的更加原则性的研究铺平了道路。

    Nov, 2019

  • 基于特征空间的对抗攻击

    本文提出了一种新的对抗攻击方法，通过扰动表示样式的抽象特征，包括可解释和不可解释的风格，诸如鲜艳色彩和锐利轮廓等，通过优化程序注入难以察觉的风格变化，实现深度神经网络模型误分类，我们展示了该方法产生的对抗样本比现有的非受限制攻击更加自然，并支持现有的像素空间的对抗攻击检测和防御技术难以在风格相关特征空间中保证模型的鲁棒性。

    Apr, 2020

  • 基于多表示空间分离的图级异常感知检测

    基于多重表示空间分离的图级异常感知检测框架，通过考虑节点级和图级异常的不同重要性，设计了异常感知模块来学习它们之间的特定权重，并通过四种加权图表示（正常锚点图、异常锚点图、训练正常图、训练异常图）严格分隔正常和异常图像空间，根据测试图像与正常和异常图像空间的图像表示之间的距离误差，准确判断测试图像是否异常。在十个公共图形数据集上广泛评估了我们的方法，结果表明其有效性。

    Jul, 2023

  • 基于统计对齐的特征空间目标攻击

    通过引入高阶统计量，我们设计了两种新的算法来实现统计导向的对抗样本生成，相比于当前主流的方法，在中等难度下能够取得更好的攻击性能。

    May, 2021

  • 基于图聚类的实用攻击

    本文研究了图建模在解决安全问题方面的能力，重点是对抗机器学习中尚未解决的问题进行了探讨：基于图聚类技术和全局特征空间的对抗性攻击，同时提出了对抗性攻击的防御策略。

    Aug, 2017

  • 基于双空间原型网络的重新定义的 DDoS 攻击检测方法

    介绍了一种基于深度学习的新技术，用于检测分布式拒绝服务攻击，在各种攻击模式中通过几何和角度相似性度量改善检测准确性。使用离线训练、模拟在线训练和原型网络场景进行了全面评估，表明该模型在不同数据充裕和稀缺条件下具有稳健性。

    Jun, 2024

  • 重新思考特洛伊木马触发器的逆向工程

    本文研究发现特征空间平面与输入空间约束都涉及特征空间 Trojans, 并利用这一发现设计了新的逆向工程方法来防卫其攻击。结果表明，该方法在 Trojan 模型检测和缓解任务方面都比现有的逆向工程方法和其他防御类型表现更好，平均检测精度达到 93％，缓解成功率可降低到 0.26％，无害精度几乎不变。

    Oct, 2022

  • 逆向特征查询攻击：迈向鲁棒图像检索

    该研究提出了一种新的针对图像检索任务的白盒对抗攻击方法，名为 ODFA，该方法可以利用特征级别的对抗梯度和表征空间中的特征距离，生成具有欺骗性的查询，而非预测类别，这大大提高了攻击成功率，并且这种对抗查询具有很好的迁移性。

    Sep, 2018

  • 图神经网络中节点属性的攻击

    通过特征基对抗攻击研究了图在现代社交媒体和学术应用中所具有的复杂网络，并侧重于决策时攻击和毒化攻击，与 Net Attack 和 Meta Attack 等现有模型不同，我们的研究专门针对节点属性。利用 Hellaswag 文本数据集和 Cora 以及 CiteSeer 图数据集进行了分析，结果发现使用投影梯度下降的决策时攻击比使用平均节点嵌入和图对比学习策略的毒化攻击更强大，这为图数据安全提供了启示，指出了图模型最脆弱的部分，从而推动了对此类攻击的更强大防御机制的开发。

    Feb, 2024

  • 在潜空间中产生对抗性攻击

    通过使用生成对抗网络在潜在空间中注入对抗性扰动，避免了基于边缘的先验条件并确保了与基于像素的对抗性攻击方法相比视觉上真实的高度，实现了在 MNIST，CIFAR10，Fashion-MNIST，CIFAR100 和 Stanford Dogs 数据集上生成对抗攻击的有效性。

    Apr, 2023