大型语言模型（LLMs）在实际应用中仍面临幻觉、知识更新缓慢和答案透明度不足等挑战。检索增强生成（RAG）是指在LLMs回答问题之前从外部知识库中检索相关信息。该论文概述了LLMs时代RAG的发展范式，总结了三种范式：Naive RAG，Advanced RAG和Modular RAG。同时，它提供了RAG的三个主要组成部分：检索器、生成器和增强方法的摘要和组织，以及每个组件的关键技术。此外，论文讨论了如何评估RAG模型的有效性，并介绍了两种RAG的评估方法、重点指标和能力，以及最新的自动评估框架。最后，从垂直优化、水平可扩展性和RAG的技术堆栈和生态系统三个方面引入了潜在的未来研究方向。

Dec, 2023

当前研究发现，基于高质量文本语料的专业知识问答系统的有效性受到 PDF 解析准确度的限制。一项实证实验表明，配备全景式和精准的 PDF 解析器的 RAG 系统 ChatDOC 能够检索更准确、更完整的片段，并给出更好的答案。实证实验显示，在接近 47% 的问题上，ChatDOC 优于基线系统，在 38% 的情况下相当，仅在 15% 的情况下表现不及。这表明通过提高 PDF 结构识别技术，我们可能革新 RAG。

Jan, 2024

通过详细和批判性地分析信息检索组件对检索辅助生成系统的影响，本研究揭示了特定类型的文档对于有效的检索辅助生成提示公式所需的特征，发现包括不相关的文档能出乎意料地提高准确性超过30％。这些结果强调了需要开发专门策略来将检索与语言生成模型相结合，为未来研究奠定了基础。

Jan, 2024

通过评估新兴的RAG-Fusion方法，本研究发现RAG-Fusion通过生成多个查询、使用互惠评分对其进行重新排名并融合文档和得分，从多个角度对原始查询进行了上下文化，使其能够提供准确和全面的答案。然而，在生成查询与原始查询关联度不足时，部分答案可能偏离主题。该研究在人工智能和自然语言处理应用中取得了重大进展，并展示了全球和多行业背景下的转变。

Jan, 2024

检索增强生成（RAG）系统在通过领域特定和时间敏感数据增强大型语言模型（LLM）输出方面非常受欢迎。本文提出了一种严格的数据集创建和评估工作流程，从而定量比较了不同的RAG策略，用于布尔代理RAG设置的开发和评估。我们在线发布了我们的代码和生成的数据集。

Feb, 2024

通过利用Transformer的多头attention层的激活作为提取多方面文档的关键来提高文本生成模型的能力，使得Multi-Head RAG能够更准确地检索复杂查询，并通过实证评估显示在相关性方面相较于标准的RAG基准模型有着高达20%的改进。

Jun, 2024

本研究分析了开源大型语言模型（LLMs）及其在来自企业网站的特定数据集上的检索增强生成（RAG）任务中的应用。研究发现，结合有效的嵌入技术，开源LLMs可以显著提高RAG系统的准确性和效率，为企业提供了与专有解决方案相比的可行选择。

Jun, 2024

基于我们对三个NVIDIA聊天机器人的经验，我们提出了一个构建基于RAG的聊天机器人的框架：包括FACTS框架、十五个RAG流水线控制点以及大型和小型LLMs之间精确度-延迟权衡的实证结果。据我们所知，这是第一篇提供了从综合视角看构建安全企业级聊天机器人的因素和解决方案的研究论文。

Jul, 2024

RAGBench是首个包含10万个有标签RAG系统实例的综合型大规模评估基准数据集，覆盖了五个独特的行业特定领域和各种RAG任务类型，并引入了可解释和可操作的RAG评估指标集TRACe。

Jun, 2024

大型语言模型和检索增强生成技术在各个领域取得巨大成功，但仍存在幻觉问题、知识更新问题和缺乏领域专长等关键问题。本文回顾了检索增强生成技术的显著技术，特别是在检索器和检索融合方面，并提供了教程代码以实现这些代表性技术。此外，本文讨论了检索增强生成技术的训练方法和应用，并探讨了其未来发展方向和挑战。

Jul, 2024