instruction data | BriefGPT

关键词instruction data

搜索结果 - 9

Magpie: 无助推主题、从头训练，通过提示对齐的 LLMs 生成对齐数据
通过自我综合的方法，从对齐的大型语言模型中直接提取高质量的指令数据，称为 Magpie，以生成大规模的对齐数据
PDF20 days ago
为大型视觉语言模型提供定向指导调节，减轻幻觉
针对当前大型视觉 - 语言模型在生成回复和相应图像之间存在的不一致问题，本研究提出了一种名为 DFTG 的有针对性的指导数据生成框架，通过诊断模型的响应和图像，生成有针对性的指导数据以减轻幻觉问题。实验结果表明，与先前的数据集相比，我们的方
PDF3 months ago
从零开始的合成数据：通用指令调整用于语言模型
借助预先策划的人类知识和能力分类体系， GLAN 是一种适用于大型语言模型（LLM）的通用且可扩展的指令调整方法，它能纵向横向生成大规模的合成指令数据，覆盖人类知识和技能的完整领域。
PDF4 months ago
指导调优的动力学：大型语言模型中的每个能力都有自己的增长速度
基于全面的模型性能至诚态度，我们系统调查了数据量、参数规模和数据构建方法对各种能力发展的影响，并通过新的 40k 人工指导的指令数据集进行了数百个模型检查点（7b 到 33b）的全面指导优化。我们的研究揭示了三个主要发现：（i）尽管数据量和
PDF8 months ago
利用大卫对抗歌利亚：探索无需使用闭源模型的指导数据生成
探索不依赖于封闭源模型生成高质量指令数据的替代方法，并通过整合有效的变体和两种新策略进一步提高其质量，我们的生成指令数据能够胜过依赖封闭源模型的 Alpaca 方法。希望在不使用封闭源模型的情况下能够取得更多的高质量指令数据生成进展。
PDF10 months ago
复杂性与对齐之间的内在关系初探
通过在指令语义树中添加指定数量的节点以增加指令数据的复杂性，我们的研究发现增加复杂性可以持续提升性能，而少数复杂指令优于多样化的简单指令，课程指令调整可能达不到期望的结果。
PDFa year ago
WizardLM：赋能大型语言模型遵循复杂指令
本文介绍了一种使用大型语言模型（LLM）替代人类创建指令数据的方法，通过使用我们提出的 Evol-Instruct，从一个初始指令集开始，逐步将其重写为更复杂的指令，然后将生成的所有指令数据混合起来，以调整 LLaMA 模型，获得我们所称的
PDFa year ago
探究指令数据比例对大型语言模型的影响：基于实际应用案例的经验研究
本文探讨了指令调整对大型语言模型性能的影响，并在在线应用案例中通过增加不同比例的指令数据探究了模型的表现。结果表明，增加指令数据可改善某些任务的表现，但对于数学和代码等任务，增加数据规模的改善效果不明显。
PDFa year ago
自我指导：用自动生成的指令对齐语言模型
使用 Self-Instruct 框架，可以将预训练模型与指令对齐，提高模型的指令遵循能力，无需过多人为指令数据，可用于 finetuning，大大提高了模型的通用性。
PDF2 years ago