May, 2024

在学术知识图中利用大型语言模型进行语义查询处理

PDF
TL;DR本研究旨在开发一种创新的语义查询处理系统，允许用户获取澳大利亚国立大学计算机科学（CS）研究员们所产生的研究作品的全面信息。该系统将大型语言模型（LLMs）与澳大利亚国立大学 CS 领域的 ANU Scholarly Knowledge Graph（ASKG）相结合，ASKG 是存储 ANU 所有研究相关产物的结构化知识库。通过结合 Deep Document Model（DDM）进行全面文档表示和 KG-enhanced Query Processing（KGQP）进行优化复杂查询处理的知识图融合方法，以解决传统学术知识图建设和利用方法的局限性，该方法能够获取来自 ASKG 的相关事实和文本节点，并在实验中显示出优于基准方法的结果，具有提高查询准确性和效率的潜力，为开发与 LLMs 的精确可靠交互奠定基础，强化了知识利用与自然语言理解能力。这项工作展示了该框架在学术研究场景中的实际应用，凸显其革新学术知识管理与发现的潜力，使研究人员更有效地获取和利用文档中的知识。
发现论文，激发创造
  • 利用 LLM 在学术知识图谱问答中的优化

    使用大型语言模型，该研究论文介绍了一种学术知识图谱问答（KGQA）系统，通过少量示例解决书目自然语言问题。模型使用基于 BERT 的句子编码器来识别与给定测试问题相关的前 n 个相似训练问题，并检索它们对应的 SPARQL 查询。利用前 n 个相似问题 - SPARQL 对作为示例以及测试问题创建提示，并将其传递给大型语言模型以生成 SPARQL 查询。最后，在底层知识图谱（Open Research KG）端点上运行 SPARQL 查询并返回答案。该系统在 Scholarly-QALD-23 挑战基准中的 SciQA 数据集上获得了 99.0% 的 F1 分数。

    Nov, 2023

  • 大型语言模型与知识图谱相互作用的研究趋势

    本研究调查了大型语言模型（LLMs）与知识图谱（KGs）之间的协同关系，旨在探讨 KG 问答、本体生成、KG 验证以及通过 LLMs 提高 KG 准确性和一致性等领域的研究空白。该论文还检验了 LLMs 在生成描述性文本和自然语言查询方面的作用，并通过分类 LLM-KG 交互、研究方法论和合作使用以及潜在偏见等结构化分析，提供了它们的结合潜力的新见解。该研究强调了它们的交互对于提升人工智能应用的重要性，并概述了未来的研究方向。

    Jun, 2024

  • 从人类专家到机器：一个基于 LLM 的本体和知识图构建方法

    利用开源 LMMs 进行（半）自动化构建知识图谱的可行性研究以及深度学习方法的知识图谱构建

    Mar, 2024

  • 基于 LMM 的教育问答系统的跨数据知识图构建：以 HCMUT 为案例研究

    通过结合大型语言模型（LLMs）和知识图谱（KGs），本研究论文提出了一种自动构建知识图谱的方法，并讨论了在数字教育环境中，LLMs 与 KGs 结合在问答任务中的初步应用。

    Apr, 2024

  • 从知识图谱中学习为检索增强的大型语言模型规划

    使用来自知识图谱的规划数据，我们介绍了一种增强大型语言模型在复杂问答任务中的性能的新框架，通过使用这些数据对 LLMs 进行微调，提高其规划能力，更好地处理涉及检索的复杂 QA 任务。我们的框架在多个数据集上进行评估，包括我们提出的新基准，突出了其有效性和知识图谱派生规划数据的好处。

    Jun, 2024

  • 反直觉：大型语言模型比我们认为的更能理解知识图谱

    我们通过复杂问题回答作为任务，对比了不同的知识图谱注入方法，旨在探索最佳提供知识图谱给大型语言模型的提示方法，从而增强其对知识图谱的理解能力。与预期相反，我们的分析发现，大型语言模型能够有效处理混乱、噪音和线性化的知识图谱知识，并且表现优于使用设计良好的自然语言文本提示的方法。这一反直觉的发现为未来关于大型语言模型理解结构化知识的研究提供了重要见解。

    Feb, 2024

  • 统一大型语言模型和知识图谱：路线图

    本文提出了使用知识图谱和大型语言模型的三种框架，分别为增强了的知识图谱、增强了的大型语言模型和协同增强。这三个框架能够互相协作，实现双向推理，提高自然语言处理和人工智能的表现，同时指出未来的研究方向。

    Jun, 2023

  • 检索 - 改写 - 回答：一种对知识图谱问题回答增强语言模型的框架

    尽管大型语言模型在知识密集型任务上表现出竞争力，但它们仍存在于记忆所有世界知识，尤其是长尾知识方面的局限性。本文研究了用于解决知识图谱问答任务的知识图增强语言模型方法。基于回答敏感的 KG-to-Text 方法，我们提出了一种将 KG 知识转化为对 KGQA 最有信息量的文本化陈述的方法，并基于此方法提出了一种 KG-to-Text 增强的 LLMs 框架来解决 KGQA 任务。在几个 KGQA 基准测试上的实验证明了所提出的 KG-to-Text 增强 LLMs 方法在回答准确性和知识陈述的有用性方面优于先前的 KG 增强 LLMs 方法。

    Sep, 2023

  • LKPNR: 个性化新闻推荐框架的 LLM 和 KG

    通过将大型语言模型（LLM）和知识图谱（KG）结合为传统方法的语义表示形式，该研究提出了一个新的通用框架，以准确地推荐候选新闻文章给用户，从而改善了新闻推荐系统中的个性化推荐效果。

    Aug, 2023

  • CogMG：大型语言模型与知识图谱之间的协同增强

    使用协作增强框架 CogMG，结合知识图谱解决了大型语言模型在问答场景中的不完整知识覆盖和知识更新不匹配的问题，并通过监督微调的 LLM 在一个代理框架中展示了在减少幻觉和提高答案的事实准确性方面取得的显著改进。

    Jun, 2024