尽管大型语言模型在知识密集型任务上表现出竞争力，但它们仍存在于记忆所有世界知识，尤其是长尾知识方面的局限性。本文研究了用于解决知识图谱问答任务的知识图增强语言模型方法。基于回答敏感的 KG-to-Text 方法，我们提出了一种将 KG 知识转化为对 KGQA 最有信息量的文本化陈述的方法，并基于此方法提出了一种 KG-to-Text 增强的 LLMs 框架来解决 KGQA 任务。在几个 KGQA 基准测试上的实验证明了所提出的 KG-to-Text 增强 LLMs 方法在回答准确性和知识陈述的有用性方面优于先前的 KG 增强 LLMs 方法。

Sep, 2023

本研究旨在开发一种创新的语义查询处理系统，允许用户获取澳大利亚国立大学计算机科学（CS）研究员们所产生的研究作品的全面信息。该系统将大型语言模型（LLMs）与澳大利亚国立大学 CS 领域的 ANU Scholarly Knowledge Graph（ASKG）相结合，ASKG 是存储 ANU 所有研究相关产物的结构化知识库。通过结合 Deep Document Model（DDM）进行全面文档表示和 KG-enhanced Query Processing（KGQP）进行优化复杂查询处理的知识图融合方法，以解决传统学术知识图建设和利用方法的局限性，该方法能够获取来自 ASKG 的相关事实和文本节点，并在实验中显示出优于基准方法的结果，具有提高查询准确性和效率的潜力，为开发与 LLMs 的精确可靠交互奠定基础，强化了知识利用与自然语言理解能力。这项工作展示了该框架在学术研究场景中的实际应用，凸显其革新学术知识管理与发现的潜力，使研究人员更有效地获取和利用文档中的知识。

May, 2024

LinkQ 是一个通过自然语言问答来简化知识图谱查询构建的系统，它利用了大型语言模型来构建查询，使用户能够轻松地从知识图谱数据中获取有价值的信息，并通过迭代将开放性问题转化为精确问题，从而进行探索性和确认性数据分析。

Jun, 2024

鉴于知识图谱，以多跳问题为基础评估语言模型在知识图谱中的问答能力，展示了基于信息检索和语义解析的方法能够具有竞争力的性能。

Apr, 2024

利用压缩的知识图作为输入，我们的方法在使用较少标记表示支持文档中与查询相关信息方面比现有方法利用高达 67% 的标记。我们的实验证明，在两个流行的基准数据集（HotpotQA 和 MuSiQue）上，我们的方法在多个指标（EM，F1，BERTScore 和人类评估）上持续改进。

Jun, 2024

本文提出了一种利用经典逻辑编程语言来装备大型语言模型（LLMs）的方法，以在知识图谱（KG）上回答自然语言问题，从而提供可解释性解决方案。作者使用 MetaQA 数据集证明了该方法的有效性。

Mar, 2023

我们通过复杂问题回答作为任务，对比了不同的知识图谱注入方法，旨在探索最佳提供知识图谱给大型语言模型的提示方法，从而增强其对知识图谱的理解能力。与预期相反，我们的分析发现，大型语言模型能够有效处理混乱、噪音和线性化的知识图谱知识，并且表现优于使用设计良好的自然语言文本提示的方法。这一反直觉的发现为未来关于大型语言模型理解结构化知识的研究提供了重要见解。

Feb, 2024

利用开源 LMMs 进行（半）自动化构建知识图谱的可行性研究以及深度学习方法的知识图谱构建

Mar, 2024

该研究提出了一种新模型 QA-GNN，通过关联系统知识图和语言模型，实现对问题与答案之间的共同推理，并取得了在常识和生物医学领域 QA 测试中优于现有模型的表现。

Apr, 2021

大型语言模型在各种自然语言处理任务中表现出色，但在处理需要广泛、现实世界知识的任务，特别是那些涉及长尾实体的任务时，仍然存在困难。为了解决这个问题，本研究分析了不同类型的非参数化知识对语言模型的影响，其中包括文本片段和知识图谱。通过创建一个需要长尾事实知识来回答问题的基准测试工具，我们评估了最先进的语言模型在不同知识环境下的表现。实验结果表明，单独使用语言模型来回答这些问题存在困难，特别是在需要大量长尾知识或丰富知识的情况下。然而，当为语言模型提供非参数化知识时，这些模型的性能显著提高。我们观察到，在大多数情况下，使用知识图谱三元组作为提示的语言模型表现优于使用最先进的检索器的段落提示。此外，虽然同时为语言模型提供知识图谱三元组和文档并不能始终改善知识覆盖率，但可以显著减少生成内容中的幻觉。

May, 2024