BIDER：基于关键支持证据的高效检索增强型 LLMs 中知识不一致性的桥接

Feb, 2024

BIDER：基于关键支持证据的高效检索增强型 LLMs 中知识不一致性的桥接

BIDER: Bridging Knowledge Inconsistency for Efficient Retrieval-Augmented LLMs via Key Supporting Evidence

Jiajie Jin, Yutao Zhu, Yujia Zhou, Zhicheng Dou

TL;DR介绍了 BIDER，通过知识合成、监督微调和偏好对齐将检索文档转化为关键支持证据（KSE），通过强化学习从 LLM 的信息获取偏好中获得最大化输出，评估结果表明 BIDER 提高了 LLM 的答案质量 7%，同时减少了检索文档中输入内容长度 80%，优于现有方法。该方法的 KSE 模拟有效地装备了 LLM 以获得准确的问题回答。

Abstract

retrieval-augmented large language models (LLMs) have demonstrated efficacy in knowledge-intensive tasks such as open-domain QA, addressing inherent challenges in knowledge update and factual inadequacy. However, inconsistencies between retrieval knowledge and the necessary knowledge f

retrieval-augmented large language models knowledge synthesis key supporting evidence supervised fine-tuning reinforcement learning

发现论文，激发创造

通过搜索引擎和大型语言模型之间的交互进行知识细化

本文介绍了信息检索的演进以及大语言模型和搜索引擎的利弊，提出了 InteR 框架，通过交互改进知识的检索，并通过实验验证其优越性。

May, 2023

突破壁垒：通过推理知识图谱利用大型语言模型用于工业推荐系统

LLM-KERec 利用大型语言模型捕捉用户意图转变，适应新项目，并提高在不断发展的电子商务领域中的推荐效率，通过整合互补知识解决传统推荐系统的局限性。

Feb, 2024

KS-LLM: 大型语言模型问题回答的证据文档知识选择

利用证据文档作为额外支持材料的知识选择方法可有效解决大型语言模型面临的幻觉问题和知识密集任务，提升大型语言模型的性能。该方法使用三元组从证据文档中选择有益于回答问题的知识片段，并与大型语言模型结合产生答案，实验证明其优于基线方法并取得最佳结果。

Apr, 2024

利用大型语言模型增强企业知识库的问答能力

通过使用大规模语言模型（LLMs），我们提出了一种名为 EKRG 的新型检索 - 生成框架，以极低的注释成本实现了企业知识库的问答。通过独特的指令调优方法和针对连贯性思维的微调方法，我们的框架在真实世界数据集上进行了广泛实验，并取得了显著的有效性。

Apr, 2024

利用大型语言模型的生成式多模态知识检索

我们提出了一种创新的端到端生成框架，用于多模态知识检索，通过利用大型语言模型 (LLMs) 作为虚拟知识库，使用对象感知的前缀调优技术来指导多粒度视觉学习，将多粒度视觉特征对齐到 LLM 的文本特征空间中，通过统一格式的指令数据构建模型训练，最后，我们提出了知识引导的生成策略，在解码步骤中施加先验约束，促进独特知识线索的生成，在三个基准测试中实验证明，与强基线方法相比，在所有评估指标上均取得了 3.0% 到 14.6% 的显著改进。

Jan, 2024

检索增强的结构化生成：以工商文档信息提取为工具使用

商业文档信息提取（BDIE）是将一大段非结构化信息（原始文本、扫描文档等）转换为下游系统可以解析和使用的结构化格式的问题。本文提出了一种名为 RASG 的检索增强结构化生成的新的 BDIE 框架，它在 BDIE 基准测试中实现了最先进的 KIE 任务和 LIR 任务的结果。

May, 2024

基于知识图谱的高效知识渗透

针对大型语言模型（LLMs）中领域特定知识匮乏的问题，本文提出了一种基于知识图谱检索增强的方法，通过利用少量标记样本和大规模语料库，构建了领域特定的知识图，并通过三阶段的知识图与 LLM 对齐策略增强了 LLM 利用知识图的能力，实验证明我们的方法优于现有基准模型。

Jun, 2024

知识求解器：教授 LLMs 从知识图谱中搜索领域知识

本文提出了一种名为知识解决器（KSL）的范例，通过利用大型语言模型（LLMs）的强大概括能力，教给它们从外部知识库中搜索必要知识，并将检索过程转化为多跳决策序列，增强了 LLMs 的搜索能力，提高了推理过程的可解释性。在三个数据集上的实验证实，我们的方法相对基准模型的表现有很大的提升。

Sep, 2023

KELLMRec：知识增强的大型语言模型用于推荐

利用外部知识辅助大规模语言模型（LLM）在生成真实可用的文本方面具有潜力，因此我们提出了一种名为‘Knowledge-Enhanced LLMRec’的方法，通过使用外部知识在生成过程中，并且通过基于知识的对比学习方案来训练模型，实验证实了该方法的有效性。

Mar, 2024

知识 GPT: 通过检索和存取知识库增强大型语言模型

通过将大型语言模型与知识库相结合，KnowledGPT 能够更好地回答涉及世界知识的更广泛问题，利用广为人知的知识库和个性化知识库中的知识。

Aug, 2023