open-source llms | BriefGPT

关键词open-source llms

搜索结果 - 14

玉兰：一个开源的大型语言模型
该论文介绍了 YuLan 的开发，这是一系列具有 120 亿参数的开源 LLMs，其基础模型在多样化语料库中进行了预训练，并采用了三阶段预训练方法以提高整体能力。通过使用大量高质量合成数据，结合指导调整和人工对齐的后续训练阶段，以及跨这些阶
PDF6 days ago
TTQA-RS - 多跳表格 - 文本问题回答的细化提示方法与推理及总结
使用开源语言模型，我们提出了一种基于推理和摘要的分解问题和回答的多跳表 - 文本问答的 TTQA-RS 模型，它在现有的 HybridQA 和 OTT-QA 数据集上的表格 - 文本 QA 任务中表现出色，同时与基于训练的最先进模型相当，展
PDF14 days ago
LLM 基于的高效物联网生成方法
在本研究中，我们提出了一种在局域网设置中部署的基于文本生成的物联网（GIoT）系统，通过应用提示工程方法增强开源 LLMs 的能力，并设计了提示管理模块和后处理模块，以管理不同任务的个性化提示并处理 LLMs 生成的结果。通过对两个流行的
PDF20 days ago
自动化客户需求分析：旅游行业大型语言模型的比较研究
通过比较分析不同的大型语言模型，尤其是开源的 Mistral 7B，我们揭示了它们在旅行客户需求分析任务中的优势和劣势，为企业利用先进的自然语言处理技术提升客户体验和推动运营效率方面提供了有价值的见解。
PDF2 months ago
着眼决策感知和通用化的大规模语言模型工具使用
通过提出一种决策感知和具有一般化的工具使用框架（DEER），本文旨在增强开源 LLMs 在操作工具方面的能力。通过构建工具使用样本和新颖的工具采样策略，DEER 在各个数据集上证明了其有效性和显著优于基准模型。
PDF4 months ago
OpenMathInstruct-1：一个 180 万数学指导调优数据集
利用合成数据集训练大型语言模型（LLMs）的巨大潜力已被展示，尤其是用于获得有针对性的技能。本研究基于开源 LLMs 的最新进展和引导创新，通过某些粗暴的扩展构建了一个包含 180 万个问题 - 解决方案对的数学指导调整数据集 OpenMa
PDF5 months ago
将大型语言模型凝聚用于将患者匹配到临床试验
探究专有和开源大型语言模型在患者试验匹配任务中的有效性，并证明在有限和合成数据集上进行微调后，开源模型与专有模型性能相当，从而为它们在实际医疗应用中的部署提供了巨大机会。
PDF7 months ago
Lumos：具有统一数据、模块化设计和开源 LLMs 的学习代理
引入 Lumos 是一个新颖的框架，用于训练语言代理，它采用统一的数据格式和基于开源大规模语言模型（LLMs）的模块化架构。Lumos 包括规划、基础和执行三个不同的模块，通过高质量的子目标和动作的注释进行训练，实现了与当前的最先进代理相当
PDF8 months ago
EMNLP利用大型语言模型构建实际的现实会议摘要系统：实用视角
本研究通过评估和比较各种闭源和开源大型语言模型，探讨如何有效构建用于实际应用的会议摘要系统。研究结果表明，大多数闭源模型在性能方面更好，但即使在零 - shot 情况下，较小的开源模型如 LLaMA-2（7B 和 13B）仍可达到与大型闭源
PDF8 months ago
XGen-7B 技术报告
我们训练了 XGen，这是一系列包含 70 亿参数的模型，可支持长度达 8K 的序列，同时通过公共领域的指导数据进行了微调，与最先进的开源 LLMs 相比，在标准基准测试和长序列建模任务中表现出可比或更好的结果。
PDF10 months ago
GrammarGPT: 使用监督微调探索开源 LLMs 用于中文母语者语法错误修正
介绍了 GrammarGPT，一款开源的大型语言模型，通过使用混合数据集和引导方法，提高了中文语法纠错的性能，最终在 NLPCC2023 SharedTask1 中取得了第三名的成绩。
PDFa year ago
开源大型语言模型在文本注释任务中胜过众包工作者并接近 ChatGPT
研究比较了开源的大型语言模型（LLMs），ChatGPT 和人工服务（如 MTurk）在文本标注任务中的表现。发现开源 LLMs 在高效性，透明性，可再现性和数据保护方面具有竞争力，虽然 ChatGPT 在大多数任务中表现最好，但开源 L
PDFa year ago
论开源大型语言模型的工具操作能力
研究了在开源 LLM 中通过一定程度的人工监督和对数据进行生成和调整，将其在工具操作方面提升至与已有的闭源 LLM 相竞争的能力，同时设计了一个工具操纵基准进行了实验，结果表明，在大多数情况下，该方法可使其成功率提高至 90％。
PDFa year ago
检测 LLM 生成的文本的科学
该研究对大型语言模型生成文本的检测技术现状及未来方向进行了综述，并提出了发展全面的评估指标和威胁控制方案等必要措施。关注点包括大型语言模型的开源威胁和其所产生的可能的误传信息问题。
PDFa year ago