COLINGMar, 2024

LexDrafter: 用检索增强生成技术为立法文书进行术语起草

PDF
TL;DR通过提供现有定义和基于文档上下文定义新术语的框架，LexDrafter 框架在起草立法文件时支持协调一致的法律定义，避免歧义。
legislative documentseudefinitionslexdrafterframework
发现论文，激发创造
  • DRAGIN：基于大型语言模型实时信息需求的动态检索增强生成

    Dynamic Retrieval Augmented Generation framework (DRAGIN) improves the strategies for deciding when and what to retrieve during text generation by considering the real-time information needs of Large Language Models (LLMs).

    Mar, 2024

  • DR-RAG: 将动态文档相关性应用于检索增强问答生成

    通过将外部知识库融入到 Retrieval-Augmented Generation (RAG) 中，提出了一种名为 Dynamic-Relevant Retrieval-Augmented Generation （DR-RAG）的两阶段检索框架，用于改善文档检索的召回率和答案的准确性，同时保持高效性，通过对检索到的文档的贡献进行分类确定相对相关的文档，实验证明 DR-RAG 能显著提高答案的准确性，并在 QA 系统方面取得新的进展。

    Jun, 2024

  • DuetRAG: 协作检索增强生成

    提出了一种新颖的 “Collaborative Retrieval-Augmented Generation” 框架 DuetRAG，以同时整合领域微调和 RAG 模型，提高知识检索质量，从而提高生成质量。最后，在 HotPot QA 上展示了 DuetRAG 与专业人类研究人员的匹配。

    May, 2024

  • 基于企业数据的 LLM 应用架构下生成式 AI 服务实现的研究

    本研究提出了一种利用大型语言模型（LLM）应用架构实现生成式人工智能服务的方法，通过利用生成式人工智能技术的最新进展，研究解决了信息匮乏的挑战，并通过利用 LLM 功能提出了具体的解决方案。研究探讨了缓解数据不足问题的策略，提供了量身定制的解决方案。通过实施检索增强生成（RAG）模型来解决上述挑战是工作的一个重要贡献，该模型被精心设计用于增强信息存储和检索过程，以确保改进的内容生成。本研究阐明了以 RAG 模型为基础的信息存储和检索方法的关键阶段，对这些步骤进行了全面分析，强调了它们在解决数据匮乏方面的重要性。研究突出了所提出方法的有效性，通过示例展示了其在实践中的适用性。通过实施 RAG 模型进行信息存储和检索，本研究不仅对生成式人工智能技术有了更深入的理解，而且还促进了利用 LLM 的企业内部的实际应用。这项工作在推进生成式人工智能领域，提供改进基于数据的内容生成以及促进企业内部利用 LLM 服务方面具有重要价值。

    Sep, 2023

  • 用于医学教育中大规模非结构化文本数据的检索增强生成和代表性向量摘要化

    本文讨论了检索增强生成模型在医学教育领域的应用，并提出了一种使用代表向量对大规模非结构化文本数据进行抽取和生成式摘要的方法。

    Aug, 2023

  • 通过增强 PDF 结构识别来改革检索增强生成

    当前研究发现，基于高质量文本语料的专业知识问答系统的有效性受到 PDF 解析准确度的限制。一项实证实验表明，配备全景式和精准的 PDF 解析器的 RAG 系统 ChatDOC 能够检索更准确、更完整的片段，并给出更好的答案。实证实验显示，在接近 47% 的问题上，ChatDOC 优于基线系统，在 38% 的情况下相当，仅在 15% 的情况下表现不及。这表明通过提高 PDF 结构识别技术，我们可能革新 RAG。

    Jan, 2024

  • 大型语言模型中的检索增强生成的开发与测试 -- 一份案例研究报告

    大型语言模型（LLMs）在医疗应用中具有重要潜力，而检索增强生成（RAG）被认为是一种有前景的方法来定制 LLMs 中的领域知识。该研究通过开发和评估一个专门针对医疗保健领域、特别关注术前医学的 LLM-RAG 流程，验证了其可行性。

    Jan, 2024

  • 多步骤的无结构数据知识检索与推理

    通过整合精细调整的大型语言模型与具有逻辑推理、规划和交互式约束求解能力的强大符号推理引擎，本研究介绍了 Cora，一个基于神经符号人工智能平台构建的协作研究助手，该助手旨在高风险领域执行复杂的研究和探索任务。本研究讨论了此类领域中的多步推理挑战，批评了现有的基于大型语言模型的方法的局限性，并展示了 Cora 的神经符号方法如何有效应对这些问题。我们提供了系统架构概述、知识提取和形式推理的关键算法，并展示了初步评估结果，突显了 Cora 与知名的大型语言模型和 RAG 方法相比的优越性能。

    Jun, 2024

  • 构建技术文档的 RAG 系统的观察

    技术文件的检索增强生成（RAG）面临的挑战在于嵌入不经常捕捉到域信息。我们回顾了影响 RAG 的重要因素的先前研究，并进行实验以突出最佳实践和建立技术文件 RAG 系统的潜在挑战。

    Mar, 2024

  • 大型语言模型的检索增强文本生成综述

    Retrieval-Augmented Generation (RAG) 是一种合并检索方法和深度学习技术的方法，旨在通过动态整合最新的外部信息解决大型语言模型（LLMs）的静态限制，并通过使用真实世界的数据提供一种成本效益的解决方案来改进 LLMs 输出的准确性和可靠性。该研究将 RAG 范式分为四个类别，并从检索的角度提供了详细的视角，同时介绍了 RAG 的演进和领域的进展。此外，该论文还提出了针对 RAG 的评估方法，并提出了面临的挑战和未来的研究方向，旨在巩固现有的 RAG 研究，明确其技术基础，并突出其扩展 LLMs 的适应性和应用潜力。

    Apr, 2024