Jun, 2024

FoRAG: 面向增强长文本问答的事实性优化检索生成

PDF
TL;DR通过研究网络增强的长格式问答，本文提出了一种新的轮廓增强生成器以实现多方面答案的清晰逻辑，并基于精心设计的双重细粒度 RLHF 框架提出了一种基于事实性优化的检索增强生成方法（FoRAG），在英文和中文基准测试中验证了其优越性。
retrieval augmented generation (rag)long-form question-answering (lfqa)factualityclear logicdoubly fine-grained rlhf framework
发现论文，激发创造
  • RQ-RAG: 学习改进用于检索增强生成的查询

    学习改进查询以实现检索增强生成，通过加入外部相关文档，使模型具备显式重写、分解和消歧的能力，并在各种问题回答数据集中取得了优于现有方法的表现。

    Mar, 2024

  • RichRAG：在检索增强生成中为多方面查询创建丰富的回复

    为了解决用户在发出宽泛、开放式的查询时得到丰富的、多方面的回复的问题，我们提出了一种新颖的检索增强生成框架 ——RichRAG。该框架包括一个子方面探索器，用于识别问题中的潜在子方面；一个多方面检索器，用于构建与这些子方面相关的多样化外部文档的候选池；以及一个生成型列表排序器，它是为最终生成器提供前 k 个最有价值的文档的关键模块。经过实验证明，我们的框架能够有效、高效地为用户提供全面且满意的回复。

    Jun, 2024

  • PaperQA: 科学研究的增强检索生成代理

    使用 PaperQA，通过对科学文献进行信息检索，评估来源和段落的相关性，并利用 RAG 提供答案的方法，超越现有的 LLMs 和 LLM 代理在当前科学问答基准测试上的表现，使得该代理模型能够进行大规模、系统化的科学知识处理。

    Dec, 2023

  • 大语言模型的检索增强生成：综述

    大型语言模型（LLMs）在实际应用中仍面临幻觉、知识更新缓慢和答案透明度不足等挑战。检索增强生成（RAG）是指在 LLMs 回答问题之前从外部知识库中检索相关信息。该论文概述了 LLMs 时代 RAG 的发展范式，总结了三种范式：Naive RAG，Advanced RAG 和 Modular RAG。同时，它提供了 RAG 的三个主要组成部分：检索器、生成器和增强方法的摘要和组织，以及每个组件的关键技术。此外，论文讨论了如何评估 RAG 模型的有效性，并介绍了两种 RAG 的评估方法、重点指标和能力，以及最新的自动评估框架。最后，从垂直优化、水平可扩展性和 RAG 的技术堆栈和生态系统三个方面引入了潜在的未来研究方向。

    Dec, 2023

  • 通过精细检索增强和自我检查提升问答对话能力

    通过引入细粒度检索扩充和自我验证等方法，我们在对话型问答系统中提出了一种具有检索增强生成能力的方法，通过协同工作的对话型问题精炼器、细粒度检索器和基于自我验证的回答生成器，实现了问题理解和相关信息获取，实验证明了我们方法在现有基准算法上的巨大优势，同时我们还发布了一个包含重组问题、关键词提取、检索段落及其有用性的中文对话型问答数据集，以促进对 RAG 增强的对话型问答的进一步研究。

    Mar, 2024

  • 基于 RAG 的多源检索问答框架

    基于 GPT-3.5 的多源检索框架（MSRAG）实现了检索增强生成技术（RAG）的改进，提高了问答系统的效率和准确性。

    May, 2024

  • DR-RAG: 将动态文档相关性应用于检索增强问答生成

    通过将外部知识库融入到 Retrieval-Augmented Generation (RAG) 中，提出了一种名为 Dynamic-Relevant Retrieval-Augmented Generation （DR-RAG）的两阶段检索框架，用于改善文档检索的召回率和答案的准确性，同时保持高效性，通过对检索到的文档的贡献进行分类确定相对相关的文档，实验证明 DR-RAG 能显著提高答案的准确性，并在 QA 系统方面取得新的进展。

    Jun, 2024

  • DuetRAG: 协作检索增强生成

    提出了一种新颖的 “Collaborative Retrieval-Augmented Generation” 框架 DuetRAG，以同时整合领域微调和 RAG 模型，提高知识检索质量，从而提高生成质量。最后，在 HotPot QA 上展示了 DuetRAG 与专业人类研究人员的匹配。

    May, 2024

  • FaaF: RAG 系统评估的事实函数

    通过利用语言模型（LM）的函数调用能力和 RAG 事实回忆评估框架，FaaF 方法大幅提高了 LM 识别文本中不支持的事实的能力，相较于指令为基础的方法，同时提高了效率和降低成本。

    Mar, 2024

  • 低资源医疗问答应用的两层信息检索增强生成框架：基于 Reddit 数据的概念验证

    检索增强生成 (RAG) 通过提供相关的上下文文本，可以约束生成模型的输出，并减轻产生虚假信息的可能性。我们提出了一个双层 RAG 框架用于查询焦点答案生成，并在社交媒体论坛中对此框架的概念验证进行评估，重点是从新兴的与药物相关信息中生成查询焦点摘要。评估结果表明，在资源受限的环境中，双层框架能够帮助研究人员从用户那里获取几乎实时的数据。

    May, 2024