EMNLPNov, 2021

通过实例属性方法对知识图谱嵌入进行对抗攻击

PDF
TL;DR在知识图谱嵌入（KGE）模型的测试时间中，进行数据污染攻击，以导致其故障。使用可解释机器学习中的模型无关实例归因方法来选择对抗删除，并提出一种启发式方法来生成对抗添加。实验表明，此策略可提高 KGE 模型所受攻击的 MRR 退化率，相对于基线提高了高达 62％。
knowledge graph embeddingsdata poisoning attackslink predictionadversarial additionsadversarial deletions
发现论文，激发创造
  • 知识图谱表示学习的对抗鲁棒性

    知识图谱是企业应用中智能决策所必需的关于世界事实知识的概念关系，学习知识图谱嵌入（KGE）模型可以有效地推断新知识。然而，该论文指出，现有的 KGE 模型容易受到数据污染攻击，在预测任务中存在安全漏洞，因此提出了两种新颖的数据污染攻击方法，旨在解决这一问题。

    Sep, 2022

  • 对知识图谱嵌入进行非定向对抗攻击

    通过使用基于规则的攻击策略，我们研究了知识图谱嵌入方法 (KGE methods) 的非目标攻击，目的是降低在一组未知测试三元组上的全局性能，并对 KGE 的鲁棒性进行系统分析。实证实验在两个数据集上，涵盖了三种典型的 KGE 方法类别，证明了我们提出的非目标攻击在减小链路预测结果方面的有效性。此外，我们还发现不同的 KGE 方法对非目标攻击的鲁棒性有所不同。

    May, 2024

  • 通过关系推理模式对知识图谱嵌入进行中毒

    本论文研究了如何通过数据污染攻击来破坏知识图谱嵌入模型的链接预测任务，提出了一种基于对称、倒置和组合这样的关系模式为基础的对抗性添加方法来提高模型对诱饵事实的预测结果置信度，实验结果表明，这种方法能够针对四个 KGE 模型和两个公开数据集中的链接预测任务达到比现有技术更好的攻击效果，并且对称模式的攻击方式适用于所有模型和数据集。

    Nov, 2021

  • 知识图谱嵌入的数据毒化攻击

    该研究探讨知识图谱嵌入技术（KGE）的鲁棒性问题，并提出了一套可以有效操纵知识图谱中任意目标事实确凿性的数据污染攻击策略，从而弥补了现有对于此类攻击缺乏针对性的不足。

    Apr, 2019

  • 通过对抗性修改探究链接预测的鲁棒性和可解释性

    本文提出的对抗性修改方法，在关系型数据的机器学习技术中加入了鲁棒性和可解释性两个重要因素，并在链接预测模型上进行了验证。

    May, 2019

  • 对抗学习用于去偏置知识图谱嵌入

    本文探讨了知识图谱中的社会偏见和文化偏见，特别是在节点流行度与链接预测精度之间的负相关关系以及从知识图嵌入中预测人的性别并提出了过滤对抗网络（FAN）来消除这些敏感属性信息从而使知识图谱达到去偏见的目的。

    Jun, 2020

  • KGEx: 通过子图采样和知识蒸馏解释知识图谱嵌入

    KGEx 是一种新颖的后处理方法，通过借鉴替代模型研究来解释知识图嵌入（KGE）中的个别链接预测，并通过训练替代 KGE 模型识别重要的训练三元组，从而提供对于黑盒模型忠实的解释。

    Oct, 2023

  • 基于联邦知识图嵌入的隐私威胁量化和防御

    本文提出了一种新的 KWG 联邦学习模型：DP-Flames，结合了实体 - 绑定稀疏梯度属性和最先进的隐私选择技术，其提供更好的隐私 - 实用性权衡，并通过提出的三种新的推理攻击来定量和针对 FKGE 中的隐私威胁进行综合评估。

    Apr, 2023

  • 通过图毒化对节点嵌入进行对抗攻击

    本研究针对网络表征学习方法中基于随机游走的广泛使用问题，提供了首个对其鲁棒性的对抗性漏洞分析，提出有效的对抗性扰动对网络结构造成了负面影响，并证明本研究提出的攻击是可迁移的。

    Sep, 2018

  • KBGAN：知识图谱嵌入的对抗学习

    KBGAN 是一种对抗学习框架，利用知识图谱嵌入模型作为负样本生成器，辅助训练目标模型，从而大幅提高链接预测任务的性能。

    Nov, 2017