Jun, 2024

探索然后确定：用于知识图谱推理的 GNN-LLM 协同框架

PDF
TL;DR此论文提出了一个 Explore-then-Determine（EtD）框架，将 Large Language Models（LLMs）与图神经网络（GNNs）相结合，用于在知识图谱上进行推理。在 Explore 阶段，使用轻量级 GNN 探索有希望的候选项和与问题相关的细粒度知识，而在 Determine 阶段，利用探索的信息构建一个知识增强的多项选择提示，指导冻结的 LLM 确定最终答案。对三个基准 KGQA 数据集进行的大量实验表明，EtD 实现了最先进的性能并生成了忠实的推理结果。
reasoning over knowledge graphslarge language modelsquestion answering over knowledge graphexplore-then-determine frameworkgraph neural networks
发现论文，激发创造
  • QA-GNN: 用语言模型和知识图谱进行问答推理

    该研究提出了一种新模型 QA-GNN，通过关联系统知识图和语言模型，实现对问题与答案之间的共同推理，并取得了在常识和生物医学领域 QA 测试中优于现有模型的表现。

    Apr, 2021

  • 通过知识图谱集成协作的强化提示型 LLM 推理方案

    利用大型语言模型 (LLMs) 和知识图谱 (KG) 的协作训练方法，本研究在知识图谱的指导下，通过迭代探索和选择性地检索任务相关的知识子图来支持推理，使得 LLMs 能更可靠地进行基于知识的推理，并同时明确阐述推理过程，实验结果表明本方法在多个数据集上显著改进，尤其在 QALD10 数据集上相对于最佳基线和最先进的方法提高了超过 10%，为今后的知识图谱和大型语言模型融合研究提供了有价值的参考，提升 LLMs 在解决复杂问题上的能力。

    Feb, 2024

  • 检索 - 改写 - 回答：一种对知识图谱问题回答增强语言模型的框架

    尽管大型语言模型在知识密集型任务上表现出竞争力，但它们仍存在于记忆所有世界知识，尤其是长尾知识方面的局限性。本文研究了用于解决知识图谱问答任务的知识图增强语言模型方法。基于回答敏感的 KG-to-Text 方法，我们提出了一种将 KG 知识转化为对 KGQA 最有信息量的文本化陈述的方法，并基于此方法提出了一种 KG-to-Text 增强的 LLMs 框架来解决 KGQA 任务。在几个 KGQA 基准测试上的实验证明了所提出的 KG-to-Text 增强 LLMs 方法在回答准确性和知识陈述的有用性方面优于先前的 KG 增强 LLMs 方法。

    Sep, 2023

  • JointLK：基于语言模型和知识图谱的常识问答联合推理

    本研究提出了一种新型模型 JointLK，通过联合 LM 和 GNN 的推理和动态 KG 的修剪机制解决现有 KG 增强模型在常识问题回答方面的局限性。通过一种新的密集双向注意模块，JointLK 在 LM 和 GNN 之间进行联合推理，并通过多步交互相互融合和更新两种模式的表征。接着，动态修剪模块使用联合推理生成的注意权重递归地修剪不相关的 KG 节点。在 CommonsenseQA 和 OpenBookQA 数据集上对 JointLK 进行评估，展示其对现有 LM 和 LM + KG 模型的改进以及其执行可解释推理的能力。

    Dec, 2021

  • GNN-RAG：用于大规模语言模型推理的图神经网络检索

    本文介绍了 GNN-RAG，一种将 LLMs 的语言理解能力与 GNNs 的推理能力以检索增强生成（RAG）风格相结合的新方法。通过 GNN 在稠密的 KG 子图上推理，提取连接问题实体和答案候选的最短路径，将其转化为 LLM 推理的输入。实验证明，GNN-RAG 在 WebQSP 和 CWQ 这两个广泛使用的 KGQA 基准测试中取得了最先进的性能，在 7B 调整的 LLM 上胜过或与 GPT-4 性能相匹配。此外，GNN-RAG 在多跳和多实体问题上表现出色，其答案 F1 得分超过竞争方法 8.9-15.5%。

    May, 2024

  • 灵活结构化的知识驱动问答

    本文提出了一种使用语言模型结合知识进行基于知识的问答的方法，其中包括知识构建方法和深度融合机制，可以优雅地提取结构数据和提高模型性能。

    Sep, 2022

  • EffiQA: 在知识图谱上进行策略性多模型协作的高效问答

    我们提出了 EffiQA，一种在性能和效率之间取得平衡的协作框架，通过全球计划、高效知识图谱探索和自我反思三个阶段，改进了大型语言模型在多步骤推理任务中的表现，为知识密集查询提供了新的集成模式。

    Jun, 2024

  • 知识图谱问答的变分推断

    本文介绍了一种基于知识图谱的问答系统，采取了一种新型的深度学习架构和端到端变分学习算法，可以同时处理问题中的噪声和多跳推理，在最新的基准数据集中取得了最优表现。

    Sep, 2017

  • CuriousLLM: 提升多文档问答与推理注入的知识图提示

    在问答领域中，将大型语言模型与外部数据库结合已经取得了巨大的成功。然而，这些方法在提供复杂问答任务所需的高级推理方面常常效果不佳。为了解决这些问题，我们改进了一种称为 “知识图谱提示” 的新方法，该方法结合了知识图谱和基于大型语言模型的代理以提高推理和搜索准确性。然而，原始的知识图谱提示框架需要在大型数据集上进行昂贵的微调，并且仍然存在着大型语言模型幻觉的问题。因此，我们提出了一种注入推理能力的大型语言模型代理来增强该框架。这种代理模仿人类的好奇心来提问后续问题，以更高效地导航搜索。这种简单的改进显著提升了大型语言模型在问答任务中的性能，而无需承担初始 “知识图谱提示” 框架的高成本和延迟。我们的最终目标是进一步发展这种方法，在问答领域提供更准确、更快速、更具成本效益的解决方案。

    Apr, 2024

  • 使用大型语言模型的知识图谱上的多跳问答

    鉴于知识图谱，以多跳问题为基础评估语言模型在知识图谱中的问答能力，展示了基于信息检索和语义解析的方法能够具有竞争力的性能。

    Apr, 2024