在不完整知识图谱问答中将 LLM 视为代理和知识图谱的生成器

Apr, 2024

在不完整知识图谱问答中将 LLM 视为代理和知识图谱的生成器

Generate-on-Graph: Treat LLM as both Agent and KG in Incomplete Knowledge Graph Question Answering

Yao Xu, Shizhu He, Jiabei Chen, Zihao Wang, Yangqiu Song...

TL;DR本文针对大型语言模型（LLMs）中知识不足和生成幻觉的问题，提出了一种与知识图谱（KGs）结合的方法，利用生成在图中的方法（GoG）解决不完全知识图谱下的问答问题，并证明 GoG 可在一定程度上解决此类问题。

Abstract

To address the issue of insufficient knowledge and the tendency to generate hallucination in large language models (LLMs), numerous studies have endeavored to integrate LLMs with knowledge graphs (KGs). However,

large language models knowledge graphs incomplete knowledge graph question answering generate-on-graph

发现论文，激发创造

CogMG：大型语言模型与知识图谱之间的协同增强

使用协作增强框架 CogMG，结合知识图谱解决了大型语言模型在问答场景中的不完整知识覆盖和知识更新不匹配的问题，并通过监督微调的 LLM 在一个代理框架中展示了在减少幻觉和提高答案的事实准确性方面取得的显著改进。

Jun, 2024

思维的逻辑查询：通过知识图谱引导大型语言模型回答复杂逻辑查询

本文提出了 'Logic-Query-of-Thoughts' (LGOT) 方法，首次将大型语言模型 (LLMs) 与基于知识图谱的逻辑查询推理相结合，通过将复杂的逻辑查询拆解为易答的子问题，并利用知识图谱推理和 LLMs 共同解答，最终获得准确的结果。实验结果显示 LGOT 在性能上得到了大幅提升，相比 ChatGPT 提高了 20%。

Mar, 2024

基于伪知识图谱与多源知识图谱的大型语言模型增强在开放式问答中的应用

采用伪图生成和原子知识验证相结合的框架，实现了在开放式问题回答环境中利用知识图谱 (KG) 增强大型语言模型 (LLM)，对于开放式问题的 ROUGE-L 得分至少提高 11.5，对于精确问题的准确度至少提高 7.5，并展示了在不同 KG 来源下的泛化能力。

Feb, 2024

反直觉：大型语言模型比我们认为的更能理解知识图谱

我们通过复杂问题回答作为任务，对比了不同的知识图谱注入方法，旨在探索最佳提供知识图谱给大型语言模型的提示方法，从而增强其对知识图谱的理解能力。与预期相反，我们的分析发现，大型语言模型能够有效处理混乱、噪音和线性化的知识图谱知识，并且表现优于使用设计良好的自然语言文本提示的方法。这一反直觉的发现为未来关于大型语言模型理解结构化知识的研究提供了重要见解。

Feb, 2024

基于 LMM 的教育问答系统的跨数据知识图构建：以 HCMUT 为案例研究

通过结合大型语言模型（LLMs）和知识图谱（KGs），本研究论文提出了一种自动构建知识图谱的方法，并讨论了在数字教育环境中，LLMs 与 KGs 结合在问答任务中的初步应用。

Apr, 2024

高效知识路径的推理：知识图引导领域问题回答的大型语言模型

通过在知识图谱（KG）上选择推理路径并结合思维链（CoT）和 PageRank 的子图检索方法，本文整合和优化了一个基于大型语言模型（LLM）的管道，可以减少对 LLM 的依赖。最终，RoK 证明了使用较少的 LLM 调用可以达到相同的结果。

Apr, 2024

检索 - 改写 - 回答：一种对知识图谱问题回答增强语言模型的框架

尽管大型语言模型在知识密集型任务上表现出竞争力，但它们仍存在于记忆所有世界知识，尤其是长尾知识方面的局限性。本文研究了用于解决知识图谱问答任务的知识图增强语言模型方法。基于回答敏感的 KG-to-Text 方法，我们提出了一种将 KG 知识转化为对 KGQA 最有信息量的文本化陈述的方法，并基于此方法提出了一种 KG-to-Text 增强的 LLMs 框架来解决 KGQA 任务。在几个 KGQA 基准测试上的实验证明了所提出的 KG-to-Text 增强 LLMs 方法在回答准确性和知识陈述的有用性方面优于先前的 KG 增强 LLMs 方法。

Sep, 2023

通过知识图谱集成协作的强化提示型 LLM 推理方案

利用大型语言模型 (LLMs) 和知识图谱 (KG) 的协作训练方法，本研究在知识图谱的指导下，通过迭代探索和选择性地检索任务相关的知识子图来支持推理，使得 LLMs 能更可靠地进行基于知识的推理，并同时明确阐述推理过程，实验结果表明本方法在多个数据集上显著改进，尤其在 QALD10 数据集上相对于最佳基线和最先进的方法提高了超过 10%，为今后的知识图谱和大型语言模型融合研究提供了有价值的参考，提升 LLMs 在解决复杂问题上的能力。

Feb, 2024

从人类专家到机器：一个基于 LLM 的本体和知识图构建方法

利用开源 LMMs 进行（半）自动化构建知识图谱的可行性研究以及深度学习方法的知识图谱构建

Mar, 2024

知识求解器：教授 LLMs 从知识图谱中搜索领域知识

本文提出了一种名为知识解决器（KSL）的范例，通过利用大型语言模型（LLMs）的强大概括能力，教给它们从外部知识库中搜索必要知识，并将检索过程转化为多跳决策序列，增强了 LLMs 的搜索能力，提高了推理过程的可解释性。在三个数据集上的实验证实，我们的方法相对基准模型的表现有很大的提升。

Sep, 2023