KDDJun, 2020

对抗学习用于去偏置知识图谱嵌入

PDF
TL;DR本文探讨了知识图谱中的社会偏见和文化偏见，特别是在节点流行度与链接预测精度之间的负相关关系以及从知识图嵌入中预测人的性别并提出了过滤对抗网络（FAN）来消除这些敏感属性信息从而使知识图谱达到去偏见的目的。
knowledge graphssocial biasescultural biasespopularity biasgender bias
发现论文，激发创造
  • 知识图谱中自动检测偏差

    本文提出了一种基于数值偏差度量的方法，用于识别和暴露知识图谱嵌入中存在的偏见，并在职业预测任务中展示了三种不同的偏见度量，从而弥补了目前文献中手动指定偏差关系的缺陷，以支持更明智的决策。

    Sep, 2021

  • 知识图谱表示学习的对抗鲁棒性

    知识图谱是企业应用中智能决策所必需的关于世界事实知识的概念关系，学习知识图谱嵌入（KGE）模型可以有效地推断新知识。然而，该论文指出，现有的 KGE 模型容易受到数据污染攻击，在预测任务中存在安全漏洞，因此提出了两种新颖的数据污染攻击方法，旨在解决这一问题。

    Sep, 2022

  • 缓解知识图谱中的关系偏差

    提出了一种名为 Fair-KGNN 的知识图谱神经网络框架，可以同时减轻知识图谱中个体偏见和关系偏见的影响，从而实现表示学习的公平性和预测性能。

    Nov, 2022

  • 基于嵌入式知识图谱补全的度偏置研究

    本文讨论如何应对知识图谱补全中存在的度量偏差，提出了一种新的数据增强方法 KG-Mixup，并进行了广泛的实验验证。

    Feb, 2023

  • 测量知识图谱嵌入中的社会偏见

    这篇研究是对知识 graph embeddings 中社会偏见的首次研究，提出新的度量方法，并证明像性别、宗教、民族和国籍这些方面的社会偏见已经编码在嵌入向量中，因此在利用 graph embeddings 时需要谨慎处理。

    Dec, 2019

  • KBGAN：知识图谱嵌入的对抗学习

    KBGAN 是一种对抗学习框架，利用知识图谱嵌入模型作为负样本生成器，辅助训练目标模型，从而大幅提高链接预测任务的性能。

    Nov, 2017

  • BiasKG: 用对抗知识图谱在大型语言模型中引入偏见

    现代大型语言模型拥有丰富的世界知识，可以在正确利用的情况下在常识推理和知识密集型任务方面取得强大的性能。然而，语言模型也能够学习社会偏见，可能对社会造成重大危害。本文提出了一种使用知识图谱增强生成模型的攻击语言模型的新方法，并采用敌对攻击策略诱导多个开源和闭源语言模型产生偏见性回应。我们发现我们的方法增加了所有模型的偏见，即使那些经过安全保护性训练的模型也是如此。这表明在 AI 安全领域需要进一步的研究，以及在这个新的敌对空间中的进一步工作。

    May, 2024

  • 差分隐私联邦知识图谱嵌入

    本论文提出了一种名为 FKGE 的分散、可扩展、隐私保护的学习框架，可用于跨多个同一领域不同知识图谱的知识嵌入。在对 11 个不同的知识图谱进行广泛的实验后，本文表明 FKGE 的性能提高了，它的模型质量最多可增加 17.85％和 7.90％。

    May, 2021

  • 对知识图谱嵌入进行非定向对抗攻击

    通过使用基于规则的攻击策略，我们研究了知识图谱嵌入方法 (KGE methods) 的非目标攻击，目的是降低在一组未知测试三元组上的全局性能，并对 KGE 的鲁棒性进行系统分析。实证实验在两个数据集上，涵盖了三种典型的 KGE 方法类别，证明了我们提出的非目标攻击在减小链路预测结果方面的有效性。此外，我们还发现不同的 KGE 方法对非目标攻击的鲁棒性有所不同。

    May, 2024

  • 使用偏差图观测的无偏图嵌入

    本文提出了一种从不受敏感结点影响的无偏图学习结点嵌入的新方法，实现无偏图嵌入的两种方法通过理论和实验的对比表明其有效性。

    Oct, 2021