Oct, 2018

针对非监督式节点嵌入方法的数据污染攻击

PDF
TL;DR本文研究了无监督节点嵌入方法（如 DeepWalk，LINE 和 node2vec）的鲁棒性问题，提出了一种数据定位攻击来攻击这些方法，针对两种流行的节点嵌入方法（DeepWalk 和 LINE）提出了有效的解决方案，并在多个真实图上评估了攻击模型的性能
unsupervised node embedding methodsrobustness analysisadversarial attackslink predictiondata positioning attack
发现论文，激发创造
  • 通过图毒化对节点嵌入进行对抗攻击

    本研究针对网络表征学习方法中基于随机游走的广泛使用问题，提供了首个对其鲁棒性的对抗性漏洞分析，提出有效的对抗性扰动对网络结构造成了负面影响，并证明本研究提出的攻击是可迁移的。

    Sep, 2018

  • 通过监督式网络污染对网络嵌入进行对抗攻击

    本文从对抗性的角度研究了网络嵌入算法，提出了一种超越现有方法的监督式网络攻击策略 VIKING，并将其扩展到半监督攻击情形并展示了与监督式攻击相当的表现。

    Feb, 2021

  • 图神经网络中节点属性的攻击

    通过特征基对抗攻击研究了图在现代社交媒体和学术应用中所具有的复杂网络，并侧重于决策时攻击和毒化攻击，与 Net Attack 和 Meta Attack 等现有模型不同，我们的研究专门针对节点属性。利用 Hellaswag 文本数据集和 Cora 以及 CiteSeer 图数据集进行了分析，结果发现使用投影梯度下降的决策时攻击比使用平均节点嵌入和图对比学习策略的毒化攻击更强大，这为图数据安全提供了启示，指出了图模型最脆弱的部分，从而推动了对此类攻击的更强大防御机制的开发。

    Feb, 2024

  • 图嵌入中隐私泄漏的量化

    本文首次通过三种推理攻击来量化图嵌入中的隐私泄漏，同时提出了对应的攻击策略，包括成员推理攻击、图重构攻击和属性推理攻击，并表明图嵌入与节点属性存在强相关性，让攻击者能够推断敏感信息。

    Oct, 2020

  • 图数据神经网络的对抗攻击

    本文主要介绍了第一项针对属性通用图的对抗攻击研究，特别关注利用图卷积思想的模型，在针对测试及训练阶段的攻击中生成针对节点特征和图结构的对抗扰动，并确保这些扰动在保存重要数据特征的同时，不被察觉，旨在帮助更好地理解和缓解目前深度学习模型在对抗环境下的不足。

    May, 2018

  • 链接预测对抗攻击

    本文定义并阐述了链接预测对抗攻击问题，并提出了一种基于图形自编码器中训练的梯度信息的迭代梯度攻击方法（IGA），该方法表明多数深度学习模型和最先进的链接预测算法都无法逃避对抗攻击。

    Oct, 2018

  • 大规模隐私保护网络嵌入：针对私有链路推断攻击

    本文提出了一种针对保护隐私的网络嵌入方法，使用干扰原始网络的方式来减少泄漏隐私链接的风险，并通过量化隐私增益和效用丢失来确定最佳干扰方案，以获得最优的隐私效用权衡。

    May, 2022

  • 节点注入链接窃取攻击

    本文介绍了一种隐秘而有效的攻击方法，通过推断图结构数据中的私有连接，暴露了图神经网络（GNNs）中的隐私漏洞。我们研究了在归纳设置中，新节点加入图并使用 API 查询预测时，私有边缘信息的潜在泄露。我们还提出了在维持模型效用的同时保护隐私的方法。相比于目前的技术水平，我们的攻击在推断连接方面表现出卓越性能。此外，我们研究了将差分隐私（DP）机制应用于减轻我们提出的攻击带来影响的可行性，分析了隐私保护和模型效用之间的权衡。我们的工作强调了 GNNs 固有的隐私漏洞，凸显了开发强大的隐私保护机制在其应用中的重要性。

    Jul, 2023

  • 知识图谱嵌入的数据毒化攻击

    该研究探讨知识图谱嵌入技术（KGE）的鲁棒性问题，并提出了一套可以有效操纵知识图谱中任意目标事实确凿性的数据污染攻击策略，从而弥补了现有对于此类攻击缺乏针对性的不足。

    Apr, 2019

  • 谨防中毒词嵌入：探究 NLP 模型嵌入层的漏洞

    该论文揭示了自然语言处理（NLP）模型的安全威胁，即后门攻击。通过修改一个单词嵌入向量，攻击者可以在没有损失准确率的情况下破坏模型的行为，同时引发了一个特定的触发词。实验结果表明，该方法更高效、更隐秘，可提高 NLP 模型的安全意识。

    Mar, 2021