May, 2024

提升 RAC 可访问性：利用数据集和 LLMs

PDF
TL;DR通过构建 RAC 数据库和利用大语言模型的先进技术，本研究致力于简化哥伦比亚航空法规 (RAC)，提高其可被理解和获取的能力，从而减少对专家咨询的依赖。
large language modelsaeronautical regulations of colombiasimplifying regulationsrac databasemodel training
发现论文，激发创造
  • ERATTA：基于大型语言模型的表格问答极端阅读简化

    我们提出了一种基于大型语言模型的系统，可以通过多个大型语言模型从各种规模大的企业级数据产品中提取信息，并在 10 秒内提供实时响应，同时提出了一个得分模块来检测和报告大型语言模型响应中的幻觉。在可持续发展、财务健康和社交媒体领域的数百个用户查询中，我们的系统和评分指标实现了超过 90% 的置信分数。

    May, 2024

  • RRAML: 强化检索增强机器学习

    通过提出一种名为增强检索增强机器学习（RRAML）的新型框架，将大型语言模型的推理能力与用户提供的数据库中的检索信息相结合，有效地解决了 API 文本输入的上下文限制和外部数据源可用性的局限性。

    Jul, 2023

  • 关于 RAG 遇见 LLM 的调研：走向检索增强的大型语言模型

    检视了检索增强型大型语言模型（RA-LLMs）的现有研究，涵盖体系结构、训练策略和应用三个主要技术视角，并介绍了此类模型的基础知识和最新进展，以及它们为大型语言模型（LLMs）带来的实际意义和应用领域的挑战和能力，最后讨论了当前的局限性和未来研究的几个有前途的方向。

    May, 2024

  • 多步骤的无结构数据知识检索与推理

    通过整合精细调整的大型语言模型与具有逻辑推理、规划和交互式约束求解能力的强大符号推理引擎，本研究介绍了 Cora，一个基于神经符号人工智能平台构建的协作研究助手，该助手旨在高风险领域执行复杂的研究和探索任务。本研究讨论了此类领域中的多步推理挑战，批评了现有的基于大型语言模型的方法的局限性，并展示了 Cora 的神经符号方法如何有效应对这些问题。我们提供了系统架构概述、知识提取和形式推理的关键算法，并展示了初步评估结果，突显了 Cora 与知名的大型语言模型和 RAG 方法相比的优越性能。

    Jun, 2024

  • 使用大型语言模型进行数据竞争检测

    借助大型语言模型 (LLMs) 的提示工程和微调技术，我们探索了一种新颖的基于 LLMs 的数据竞争检测方法。通过创建 DRB-ML 数据集，我们评估了代表性的 LLMs 并对开源模型进行微调，实验证明 LLMs 可作为数据竞争检测的一种可行方法，但在需要有关引起数据竞争的变量对的详细信息时，它们仍无法与传统的数据竞争检测工具相竞争。

    Aug, 2023

  • RaLLe: 发展和评估检索增强的大型语言模型的框架

    R-LLMs improve factual question-answering by combining pre-trained large language models with retrieval systems; RaLLe is an open-source framework that facilitates the development, evaluation, and optimization of R-LLMs for knowledge-intensive tasks, enhancing performance and accuracy.

    Aug, 2023

  • RAG 与 RAU: 自然语言处理中检索增强语言模型的综述

    大型语言模型与检索增强语言模型结合，提供了一个全面的概述，探讨了它们的范式、演化、分类和应用，以及其中关键组件如检索器、语言模型和增强部分，同时讨论了其在多个任务中的效用和评估方法，以及未来研究的方向。

    Apr, 2024

  • 从 RAG 到富裕：利用大型语言模型编写临床试验文件

    在临床试验中，通过使用具备内容相关性和正确术语使用的合理结果的现成大型语言模型（LLMs），然而存在于临床思维、逻辑和合适引用的不足，通过使用 RAG（检索增强生成法）提升 LLM 的写作质量，从而提高了 LLMs 在临床试验相关文案中的实际可用性。

    Feb, 2024

  • RO-LLaMA：通过噪声增强和一致性正则化实现放射治疗的综合型医学语言模型

    近期人工智能在医疗领域有了显著进展，本研究提出 RO-LLaMA，一个通用的大型语言模型，特为放射肿瘤学领域量身定制，能够在临床报告总结、放疗方案建议等任务中表现出卓越的性能，并且通过 CEFTune 技术进一步提高了模型的鲁棒性，同时保持了处理干净输入的能力，还将此概念创造性地转化为 LLM 驱动的分割框架 CESEG。实验结果表明，RO-LLaMA 在多中心队列数据集上展现了出色的性能和泛化能力。

    Nov, 2023

  • 基于企业数据的 LLM 应用架构下生成式 AI 服务实现的研究

    本研究提出了一种利用大型语言模型（LLM）应用架构实现生成式人工智能服务的方法，通过利用生成式人工智能技术的最新进展，研究解决了信息匮乏的挑战，并通过利用 LLM 功能提出了具体的解决方案。研究探讨了缓解数据不足问题的策略，提供了量身定制的解决方案。通过实施检索增强生成（RAG）模型来解决上述挑战是工作的一个重要贡献，该模型被精心设计用于增强信息存储和检索过程，以确保改进的内容生成。本研究阐明了以 RAG 模型为基础的信息存储和检索方法的关键阶段，对这些步骤进行了全面分析，强调了它们在解决数据匮乏方面的重要性。研究突出了所提出方法的有效性，通过示例展示了其在实践中的适用性。通过实施 RAG 模型进行信息存储和检索，本研究不仅对生成式人工智能技术有了更深入的理解，而且还促进了利用 LLM 的企业内部的实际应用。这项工作在推进生成式人工智能领域，提供改进基于数据的内容生成以及促进企业内部利用 LLM 服务方面具有重要价值。

    Sep, 2023