Sep, 2023

基于企业数据的 LLM 应用架构下生成式 AI 服务实现的研究

PDF
TL;DR本研究提出了一种利用大型语言模型（LLM）应用架构实现生成式人工智能服务的方法，通过利用生成式人工智能技术的最新进展，研究解决了信息匮乏的挑战，并通过利用 LLM 功能提出了具体的解决方案。研究探讨了缓解数据不足问题的策略，提供了量身定制的解决方案。通过实施检索增强生成（RAG）模型来解决上述挑战是工作的一个重要贡献，该模型被精心设计用于增强信息存储和检索过程，以确保改进的内容生成。本研究阐明了以 RAG 模型为基础的信息存储和检索方法的关键阶段，对这些步骤进行了全面分析，强调了它们在解决数据匮乏方面的重要性。研究突出了所提出方法的有效性，通过示例展示了其在实践中的适用性。通过实施 RAG 模型进行信息存储和检索，本研究不仅对生成式人工智能技术有了更深入的理解，而且还促进了利用 LLM 的企业内部的实际应用。这项工作在推进生成式人工智能领域，提供改进基于数据的内容生成以及促进企业内部利用 LLM 服务方面具有重要价值。
发现论文，激发创造
  • 关于 RAG 遇见 LLM 的调研：走向检索增强的大型语言模型

    检视了检索增强型大型语言模型（RA-LLMs）的现有研究，涵盖体系结构、训练策略和应用三个主要技术视角，并介绍了此类模型的基础知识和最新进展，以及它们为大型语言模型（LLMs）带来的实际意义和应用领域的挑战和能力，最后讨论了当前的局限性和未来研究的几个有前途的方向。

    May, 2024

  • 大型语言模型中的检索增强生成的开发与测试 -- 一份案例研究报告

    大型语言模型（LLMs）在医疗应用中具有重要潜力，而检索增强生成（RAG）被认为是一种有前景的方法来定制 LLMs 中的领域知识。该研究通过开发和评估一个专门针对医疗保健领域、特别关注术前医学的 LLM-RAG 流程，验证了其可行性。

    Jan, 2024

  • T-RAG: LLM 战壕中的教训

    构建一个基于 RAG 的 LLM 应用程序，Tree-RAG 使用树结构表示组织中的实体层级，并生成文字描述以增强响应用户查询的上下文。

    Feb, 2024

  • 大型语言模型的检索增强文本生成综述

    Retrieval-Augmented Generation (RAG) 是一种合并检索方法和深度学习技术的方法，旨在通过动态整合最新的外部信息解决大型语言模型（LLMs）的静态限制，并通过使用真实世界的数据提供一种成本效益的解决方案来改进 LLMs 输出的准确性和可靠性。该研究将 RAG 范式分为四个类别，并从检索的角度提供了详细的视角，同时介绍了 RAG 的演进和领域的进展。此外，该论文还提出了针对 RAG 的评估方法，并提出了面临的挑战和未来的研究方向，旨在巩固现有的 RAG 研究，明确其技术基础，并突出其扩展 LLMs 的适应性和应用潜力。

    Apr, 2024

  • ERATTA：基于大型语言模型的表格问答极端阅读简化

    我们提出了一种基于大型语言模型的系统，可以通过多个大型语言模型从各种规模大的企业级数据产品中提取信息，并在 10 秒内提供实时响应，同时提出了一个得分模块来检测和报告大型语言模型响应中的幻觉。在可持续发展、财务健康和社交媒体领域的数百个用户查询中，我们的系统和评分指标实现了超过 90% 的置信分数。

    May, 2024

  • 基于 RAG 的金融文件问答模型检索性能改进

    通过改进文本检索过程，本文探讨了 RAG 管道的现有限制并引入了提升文本检索的方法，包括先进的文本切块技术、查询扩展、元数据注释的应用、重新排序算法以及嵌入算法的微调。通过实施这些方法可以大幅提高检索质量，从而提升 LLM 在处理和响应查询时的整体效果和可靠性。

    Mar, 2024

  • 大语言模型的检索增强生成：综述

    大型语言模型（LLMs）在实际应用中仍面临幻觉、知识更新缓慢和答案透明度不足等挑战。检索增强生成（RAG）是指在 LLMs 回答问题之前从外部知识库中检索相关信息。该论文概述了 LLMs 时代 RAG 的发展范式，总结了三种范式：Naive RAG，Advanced RAG 和 Modular RAG。同时，它提供了 RAG 的三个主要组成部分：检索器、生成器和增强方法的摘要和组织，以及每个组件的关键技术。此外，论文讨论了如何评估 RAG 模型的有效性，并介绍了两种 RAG 的评估方法、重点指标和能力，以及最新的自动评估框架。最后，从垂直优化、水平可扩展性和 RAG 的技术堆栈和生态系统三个方面引入了潜在的未来研究方向。

    Dec, 2023

  • 检索增强生成系统：自动数据集创建、评估和布尔代理设置

    检索增强生成（RAG）系统在通过领域特定和时间敏感数据增强大型语言模型（LLM）输出方面非常受欢迎。本文提出了一种严格的数据集创建和评估工作流程，从而定量比较了不同的 RAG 策略，用于布尔代理 RAG 设置的开发和评估。我们在线发布了我们的代码和生成的数据集。

    Feb, 2024

  • 基于 RAG 的家庭电力监测会话

    通过结合 Retrieval Augmented Generation (RAG) 与 ChatGPT、Gemini 和 Llama 等大型语言模型 (LLMs)，利用特殊的电力知识图来提高对电力数据集的复杂问题的响应的准确性和特异性。我们的研究结果表明，RAG 方法不仅可以减少由 LLMs 生成的不正确信息的发生，还可以通过以可验证的数据为基础来显著提高输出的质量。

    Jun, 2024

  • 工具呼叫：通过检索增强大型语言模型提升药物咨询

    基于检索增强生成（RAG）的大规模语言模型（LLMs）在医学领域的知识密集型任务中表现出显著的性能提升，着重研究了利用 LLMs 和 RAG 框架回答基于医药数据库的查询问题，并提出了 Distill-Retrieve-Read 框架用于关键字搜索，实验结果证明了该框架在证据检索准确性方面的优势。

    Apr, 2024