Prompt Generate Train（PGT）: 一种少样本领域自适应、对齐和不确定性校准框架，用于增强式生成器（RAG）模型在特定领域开放式书籍问答中的应用

Jul, 2023

Prompt Generate Train（PGT）: 一种少样本领域自适应、对齐和不确定性校准框架，用于增强式生成器（RAG）模型在特定领域开放式书籍问答中的应用

Prompt Generate Train (PGT): A framework for few-shot domain adaptation, alignment, and uncertainty calibration of a retriever augmented generation (RAG) model for domain specific open book question-answering

PDF

C. S. Krishna

TL;DR本研究提出了 Prompt，Generate，Train（PGT）框架，用于高效开发基于收集的文本文档的生成式问答模型，并利用监督微调和强化学习方法构建出一个与 GPT-4 类似的生成式 QA 模型。

Abstract

We present a framework - Prompt, Generate, Train (PGT) - to efficiently develop a generative question-answering model for open-book question-answering over a proprietary collection of text documents. The framework adapts a →

generative question-answering retriever augmented generation model supervised finetuning reinforcement learning calibrated model

发现论文，激发创造

基于 RAG 的多源检索问答框架

基于 GPT-3.5 的多源检索框架（MSRAG）实现了检索增强生成技术（RAG）的改进，提高了问答系统的效率和准确性。

May, 2024

检索 - 规划 - 生成：面向知识密集 LL M 生成的迭代规划和回答框架

提出了 Retrieve-Plan-Generation（RPG）框架，通过生成计划令牌指导后续生成，在答案阶段根据计划选择相关的细粒度段落，并将它们用于进一步的答案生成，从而提高生成的相关性。利用简单但有效的多任务提示调优方法实现了该框架，使现有的大型语言模型能够处理计划和答案两个任务。通过在 5 个知识密集型生成任务上与基准方法进行全面比较，证明了我们的方法的有效性。

Jun, 2024

文本生成的转移提示学习

本文提出一种基于提示的文本生成方法（PTG），采用预训练语言模型，在面对数据匮乏的情况下通过学习一组源提示并将其转移为目标提示执行目标生成任务，设计了一个自适应注意机制以得出目标提示，实验结果表明 PTG 针对多个任务产生了有竞争力的结果，源提示已开放并可用于未来研究。

May, 2022

建立非专业化 LLM 用户的微调、增强检索生成和软提示的性能基准

通过细调、检索增强生成（RAG）和软提示等方法提高大型语言模型（LLMs）的性能的研究一般侧重于使用高度技术性或高成本的技术，使许多新发现的方法对非技术用户相对不可访问。在本文中，我们测试了未修改版本的 GPT 3.5，经过细调的版本，以及相同的未修改模型在访问矢量化的 RAG 数据库时，单独或与基本的非算法软提示相结合。每种情况下，我们测试了模型回答一组 100 个与 2021 年 9 月之后（GPT 3.5 的训练数据集结束的时间点）相关的事件问题的能力。我们发现，如果使用商业平台并应用默认设置以建立基准输出集，经过细调的模型优于 GPT 3.5 Turbo，而 RAG 方法优于两者。应用软提示显著提高了每种方法的性能。

Nov, 2023

基于检索辅助生成的大型语言模型中的提示扰动

本研究通过引入一种新的优化技术（称为 GGPP），系统评估了在 Retrieval-Augmented Generation 模型上插入前缀对输出结果的影响，并通过神经元激活差异提供了一种改善该模型的鲁棒性的方法。

Feb, 2024

利用讲座内容提供改进反馈: GPT-4 和检索增强生成的探索

使用检索增强生成（RAG）技术改进大型语言模型在编程任务中生成的反馈，通过将相应的讲座录音转录为文本并提供给 GPT-4，使其作为外部知识源，以及利用 RAG 的时间戳作为元信息进行补充，以防止幻觉并强制使用讲座中的技术术语和短语。

May, 2024

通过自学使大型语言模型能够建立知识检索索引器

该研究提出了一种名为 PG-RAG 的预检索框架，使用大量阅读材料和结构化的语境记录来构建伪图数据库，该框架在单文档和多文档的问题回答任务中表现出明显的改进，具有高性能的检索和生成能力。

May, 2024

基于合成数据训练生成型问答模型

通过使用一种简单且经济高效的方法来合成数据以训练问答系统，本文提供了一种在资源丰富的英语等语言中常用的微调 GPT 模型的培训方法，并提出了一种零样本或少样本情况下使用指导调优模型生成 QA 对的方法，并通过实验比较了从指导调优模型获得 QA 对的各种策略，结果表明，使用我们提出的合成数据训练的模型能够达到与手动策划数据集训练的模型相当的性能，而无需付出人力成本。

Oct, 2023

优化领域聊天机器人的 RAG 强化学习

通过采用基于 RAG 的 RL 优化方法，使用信息熵损失函数构建了一个使用 FAQ 数据回答用户查询的聊天机器人，该模型在检索准确性和领域外查询检测方面表现显著优于通用公开嵌入模型，同时能实现成本节省和细微的准确性改善。

Jan, 2024

提升检索增强生成模型（RAG）在开放领域问答中的领域自适应能力

本论文旨在研究将 RAG 用于领域适应的可行性，提出了一种名为 RAG-end2end 的新模型，相较于 RAG 模型，它通过联合训练 RAG 组件以及外部知识库的更新，实现了针对特定领域的知识库自适应以及更准确的问答任务。在 COVID-19、新闻和对话等三个领域上的测试表明，该新模型相较于原始 RAG 模型在数据集中的表现有明显提升。

Oct, 2022