知识图谱表示学习的对抗鲁棒性
在知识图谱嵌入(KGE)模型的测试时间中,进行数据污染攻击,以导致其故障。使用可解释机器学习中的模型无关实例归因方法来选择对抗删除,并提出一种启发式方法来生成对抗添加。实验表明,此策略可提高 KGE 模型所受攻击的 MRR 退化率,相对于基线提高了高达 62%。
Nov, 2021
本文探讨了知识图谱中的社会偏见和文化偏见,特别是在节点流行度与链接预测精度之间的负相关关系以及从知识图嵌入中预测人的性别并提出了过滤对抗网络(FAN)来消除这些敏感属性信息从而使知识图谱达到去偏见的目的。
Jun, 2020
通过使用基于规则的攻击策略,我们研究了知识图谱嵌入方法 (KGE methods) 的非目标攻击,目的是降低在一组未知测试三元组上的全局性能,并对 KGE 的鲁棒性进行系统分析。实证实验在两个数据集上,涵盖了三种典型的 KGE 方法类别,证明了我们提出的非目标攻击在减小链路预测结果方面的有效性。此外,我们还发现不同的 KGE 方法对非目标攻击的鲁棒性有所不同。
May, 2024
该研究探讨知识图谱嵌入技术(KGE)的鲁棒性问题,并提出了一套可以有效操纵知识图谱中任意目标事实确凿性的数据污染攻击策略,从而弥补了现有对于此类攻击缺乏针对性的不足。
Apr, 2019
本论文研究了如何通过数据污染攻击来破坏知识图谱嵌入模型的链接预测任务,提出了一种基于对称、倒置和组合这样的关系模式为基础的对抗性添加方法来提高模型对诱饵事实的预测结果置信度,实验结果表明,这种方法能够针对四个 KGE 模型和两个公开数据集中的链接预测任务达到比现有技术更好的攻击效果,并且对称模式的攻击方式适用于所有模型和数据集。
Nov, 2021
本研究针对网络表征学习方法中基于随机游走的广泛使用问题,提供了首个对其鲁棒性的对抗性漏洞分析,提出有效的对抗性扰动对网络结构造成了负面影响,并证明本研究提出的攻击是可迁移的。
Sep, 2018
本文提出了一种新的 KWG 联邦学习模型:DP-Flames,结合了实体 - 绑定稀疏梯度属性和最先进的隐私选择技术,其提供更好的隐私 - 实用性权衡,并通过提出的三种新的推理攻击来定量和针对 FKGE 中的隐私威胁进行综合评估。
Apr, 2023
该论文提出了一种利用知识图谱加强黑盒攻击框架 (KGAttack) 的方法,将深度增强学习技术无缝集成到层次化策略网络中,以生成虚假用户文件并进行黑盒攻击。在各种真实世界数据集上的全面实验表明了所提出的攻击框架在黑盒设置下的有效性。
Jul, 2022
AdvGraph 能够增强中文自然语言处理模型的鲁棒性,同时保持模型性能,将有意义的对抗性知识结合到输入的语义表示中,并在两个真实任务上得到更好的性能。
Feb, 2021
本论文提出了一种名为 FKGE 的分散、可扩展、隐私保护的学习框架,可用于跨多个同一领域不同知识图谱的知识嵌入。在对 11 个不同的知识图谱进行广泛的实验后,本文表明 FKGE 的性能提高了,它的模型质量最多可增加 17.85%和 7.90%。
May, 2021