Dec, 2023

大语言模型的检索增强生成：综述

HTML
PDF
TL;DR大型语言模型（LLMs）在实际应用中仍面临幻觉、知识更新缓慢和答案透明度不足等挑战。检索增强生成（RAG）是指在LLMs回答问题之前从外部知识库中检索相关信息。该论文概述了LLMs时代RAG的发展范式，总结了三种范式：Naive RAG，Advanced RAG和Modular RAG。同时，它提供了RAG的三个主要组成部分：检索器、生成器和增强方法的摘要和组织，以及每个组件的关键技术。此外，论文讨论了如何评估RAG模型的有效性，并介绍了两种RAG的评估方法、重点指标和能力，以及最新的自动评估框架。最后，从垂直优化、水平可扩展性和RAG的技术堆栈和生态系统三个方面引入了潜在的未来研究方向。
发现论文，激发创造
  • CRUD-RAG: 大语言模型检索增强生成的综合中文评估基准

    Retrieval-Augmented Generation (RAG)技术通过整合外部知识源提升了大型语言模型(LLM)的能力，克服了LLM存在的过时信息和生成不准确“幻象”内容的问题。本文构建了一个大规模且更全面的基准测试，评估了RAG系统的所有组成部分在不同应用场景中的性能，并对RAG技术在不同场景下的优化提供了有用的见解。

    Jan, 2024

  • 大型语言模型的检索增强文本生成综述

    Retrieval-Augmented Generation (RAG)是一种合并检索方法和深度学习技术的方法，旨在通过动态整合最新的外部信息解决大型语言模型（LLMs）的静态限制，并通过使用真实世界的数据提供一种成本效益的解决方案来改进LLMs输出的准确性和可靠性。该研究将RAG范式分为四个类别，并从检索的角度提供了详细的视角，同时介绍了RAG的演进和领域的进展。此外，该论文还提出了针对RAG的评估方法，并提出了面临的挑战和未来的研究方向，旨在巩固现有的RAG研究，明确其技术基础，并突出其扩展LLMs的适应性和应用潜力。

    Apr, 2024

  • 关于 RAG 遇见 LLM 的调研：走向检索增强的大型语言模型

    检视了检索增强型大型语言模型（RA-LLMs）的现有研究，涵盖体系结构、训练策略和应用三个主要技术视角，并介绍了此类模型的基础知识和最新进展，以及它们为大型语言模型（LLMs）带来的实际意义和应用领域的挑战和能力，最后讨论了当前的局限性和未来研究的几个有前途的方向。

    May, 2024

  • 检索增强生成模型评估：一项调查

    Retrieval-Augmented Generation (RAG)系统的评估和分析框架（RGAR）提供了一种基于可测输出和已建立真实性来系统分析RAG系统基准的方法，并讨论了当前基准的局限性和进一步研究的潜在方向。

    May, 2024

  • 揭示双重检索增强生成的理论分析与实践解决方案

    使用检索增强生成（RAG）的方法将检索到的文本用于增强大型语言模型（LLM）。然而，研究显示RAG并不一致有效，甚至可能因检索到的文本含有噪声或错误而误导LLM，这表明RAG具有双重性，既有益又有害。本研究分离和形式化RAG的益处和害处，通过表征相似度来近似它们之间的差距，并建立它们之间的权衡机制，使其可解释、可量化和可比较。根据我们的理论，提出了一种实用的新方法X-RAG，在标记级别上实现纯LLM和RAG的协同生成，以保留好处和避免害处。基于OPT、LLaMA-2和Mistral的LLMs的实验表明了我们方法的有效性并支持了我们的理论结果。

    Jun, 2024

  • 提升检索和管理检索：用于RAG系统质量和效率的四模块协同

    通过生成多个查询来克服单一查询的信息平台以及通过重写问题来消除二义性，我们提出了Query Rewriter+来增强Query Rewriter模块，同时通过引入Knowledge Filter模块解决RAG系统中存在的无关知识问题，并且引入Memory Knowledge Reservoir和Retriever Trigger模块解决冗余检索问题，这四个RAG模块通过增强响应质量和效率，经实验证明了其有效性。

    Jul, 2024

  • 自然语言处理中检索增强的生成模型：综述

    大型语言模型和检索增强生成技术在各个领域取得巨大成功，但仍存在幻觉问题、知识更新问题和缺乏领域专长等关键问题。本文回顾了检索增强生成技术的显著技术，特别是在检索器和检索融合方面，并提供了教程代码以实现这些代表性技术。此外，本文讨论了检索增强生成技术的训练方法和应用，并探讨了其未来发展方向和挑战。

    Jul, 2024

  • RAGLAB：一个模块化和面向研究的检索增强生成统一框架

    本研究解决了检索增强生成（RAG）技术中对新算法缺乏全面公平比较以及现有开源工具透明度不足的问题。通过介绍RAGLAB，一个模块化的开源库，研究者可在10个基准上公平比较6种RAG算法，从而推动新算法和评估指标的发展。该框架的建立有望提升RAG方法的研究效率和成果。

    Aug, 2024

  • 检索增强生成（RAG）及其更深层次的研究：如何更聪明地利用外部数据

    本研究针对将外部数据有效整合到大型语言模型（LLMs）中所面临的挑战进行了全面调查，提出了一种基于外部数据类型和任务聚焦的RAG任务分类方法。研究显示，不同类型的用户查询需采取不同的处理策略，以提升LLM在复杂任务中的推理能力和实用性，为构建更高效的LLM应用提供了系统化指导.

    Sep, 2024

  • 检索增强生成中的上下文压缩：大型语言模型的综述

    本研究主要解决大型语言模型（LLMs）在生成内容时面临的幻觉、知识陈旧和推理不清等问题。通过检索增强生成（RAG）技术，结合LLMs的内在知识与外部数据库，本文提出了一种新的上下文压缩范式，并分析其演变和当前挑战，为未来的研究方向指明了道路。

    Sep, 2024