Jul, 2024

Think-on-Graph 2.0: 基于知识图引导的深度可解释大型语言模型推理

HTML
PDF
TL;DRRetrieval-augmented generation (RAG) has been enhanced with Think-on-Graph 2.0, aligning questions with knowledge graphs to improve information collection, integration, and precision, ensuring logical and factual consistency, advancing large language models' accuracy and reliability.
发现论文，激发创造
  • 基于知识图谱的深度负责任语言模型推理

    介绍了Think-on-Graph（ToG），这是一种利用知识图谱增强LLMs深度和负责任推理能力的新框架，并通过对复杂的多跳问题回答任务的实验证明了ToG优于现有方法。

    Jul, 2023

  • 大语言模型的检索增强生成：综述

    大型语言模型（LLMs）在实际应用中仍面临幻觉、知识更新缓慢和答案透明度不足等挑战。检索增强生成（RAG）是指在LLMs回答问题之前从外部知识库中检索相关信息。该论文概述了LLMs时代RAG的发展范式，总结了三种范式：Naive RAG，Advanced RAG和Modular RAG。同时，它提供了RAG的三个主要组成部分：检索器、生成器和增强方法的摘要和组织，以及每个组件的关键技术。此外，论文讨论了如何评估RAG模型的有效性，并介绍了两种RAG的评估方法、重点指标和能力，以及最新的自动评估框架。最后，从垂直优化、水平可扩展性和RAG的技术堆栈和生态系统三个方面引入了潜在的未来研究方向。

    Dec, 2023

  • 多跳-RAG: 用于多跳查询的检索增强生成的基准测试

    我们开发了一个新的数据集MultiHop-RAG，它由知识库、大量的多跳查询、它们的真实答案和相应的支持证据组成，并详细介绍了构建数据集的过程。我们进行了两个实验来展示MultiHop-RAG的基准化效用，实验结果表明现有的RAG方法在检索和回答多跳查询上表现不尽人意。我们希望MultiHop-RAG能成为开发有效的RAG系统的有价值资源，从而促进LLMs在实践中的更广泛应用。

    Jan, 2024

  • 思维的逻辑查询：通过知识图谱引导大型语言模型回答复杂逻辑查询

    本文提出了'Logic-Query-of-Thoughts' (LGOT)方法，首次将大型语言模型 (LLMs) 与基于知识图谱的逻辑查询推理相结合，通过将复杂的逻辑查询拆解为易答的子问题，并利用知识图谱推理和LLMs共同解答，最终获得准确的结果。实验结果显示LGOT在性能上得到了大幅提升，相比ChatGPT提高了20%。

    Mar, 2024

  • 图式推理：基于图形的增强大型语言模型

    使用Graph-CoT框架，通过对图进行迭代推理，将大型语言模型（LLMs）与图相结合，从而提高知识密集型任务中的性能。

    Apr, 2024

  • KG-RAG: 知识与创造之间的桥梁

    该论文介绍了一种名为KG-RAG（知识图谱-检索增强生成）的框架，通过将结构化的知识图谱与LLMs的功能集成，显著减少对LLMs潜在知识的依赖，从而提高LLM的知识能力。通过使用一种名为CoE（Chain of Explorations）的算法，利用LLMs的推理能力在知识图谱中顺序地探索节点和关系，该方法较之前取得了显著减少虚构内容的结果，为发展处理知识密集型任务的智能系统提供了有希望的路径。

    May, 2024

  • 通过自学使大型语言模型能够建立知识检索索引器

    该研究提出了一种名为PG-RAG的预检索框架，使用大量阅读材料和结构化的语境记录来构建伪图数据库，该框架在单文档和多文档的问题回答任务中表现出明显的改进，具有高性能的检索和生成能力。

    May, 2024

  • GNN-RAG：用于大规模语言模型推理的图神经网络检索

    本文介绍了GNN-RAG，一种将LLMs的语言理解能力与GNNs的推理能力以检索增强生成（RAG）风格相结合的新方法。通过GNN在稠密的KG子图上推理，提取连接问题实体和答案候选的最短路径，将其转化为LLM推理的输入。实验证明，GNN-RAG在WebQSP和CWQ这两个广泛使用的KGQA基准测试中取得了最先进的性能，在7B调整的LLM上胜过或与GPT-4性能相匹配。此外，GNN-RAG在多跳和多实体问题上表现出色，其答案F1得分超过竞争方法8.9-15.5%。

    May, 2024

  • WeKnow-RAG：一种适应性检索增强生成的方法，整合网页搜索与知识图谱

    本研究针对大型语言模型（LLMs）生成的事实错误和"幻影"内容问题提出了WeKnow-RAG方法，该方法结合网页搜索和知识图谱，以提高LLM的响应准确性和可靠性。通过多阶段网页检索技术，我们的方法显著提升了信息检索的效率和准确性，尤其在复杂推理任务上表现卓越，并能够自我评估生成回答的可信度。

    Aug, 2024

  • 图检索增强生成：一项综述

    本研究针对大型语言模型（LLMs）在生成过程中面临的信息过时、领域知识不足及“幻觉”等问题，提出通过图结构增强检索的创新方法——GraphRAG，旨在实现更精确的知识获取和上下文响应。该论文首次系统性梳理了GraphRAG的工作流程、核心技术和典型应用，提供了全面的学术参考和未来研究的方向。

    Aug, 2024