instruction fine-tuning | BriefGPT

关键词instruction fine-tuning

搜索结果 - 26

CALLA 数据集：探索 LLMs 对中医文献的互动知识获取
使用 CALLA 数据集验证了以医学文献为基础的指导微调数据对大型语言模型在医学领域的知识获取能力、互动应用和准确性的促进作用。
PDF10 months ago
GRASS: 语音语义理解统一生成模型
该论文通过引入统一的端到端（E2E）框架，对语音语义理解任务进行了指令微调技术的探索，该框架在语音数据上生成与任务相关提示条件下的语义标签。实验证明，我们提出的模型在微调下游任务后显著优于最先进的模型，并且在零样本和少样本情况下取得了有竞争
PDF10 months ago
大型语言模型对指令的稳健性评估
指令微调方法能够增强大型语言模型在未知任务上的零样本功能，并对其性能和稳健性进行了评估，发现在处理陌生指令时性能显著下降，而对于关系抽取指令的稳健性较问答指令更差。
PDF10 months ago
评估语言模型的零样本鲁棒性
本研究提出了一种简单的方法来提高指导微调模型的鲁棒性，即通过引入 “软提示” 嵌入参数并优化这些参数来最大化语义等效说明的表示之间的相似性。
PDFa year ago
WizardCoder：用 Evol-Instruct 使大型语言模型掌握编程技能
本文介绍了 WizardCoder，它利用 Evol-Instruct 方法将复杂的指令微调应用于代码领域，通过对四个主要的代码生成基准进行全面实验，揭示了该模型的出色能力，并超越了所有其他开源 Code LLMs，甚至在 HumanEva
PDFa year ago
SAIL：搜索增强指令学习
本文提出了一种搜索增强的指导学习（Search-augmented instruction learning, SAIL）方法，该方法通过利用搜索引擎生成的跨度广泛的搜索结果来提高大型语言模型的生成能力和指令跟踪能力，从而在透明度敏感任务
PDFa year ago