instruction-following capabilities | BriefGPT

关键词instruction-following capabilities

搜索结果 - 8

MM-Instruct: 大型多模态模型对齐的生成视觉指令
该研究介绍了 MM-Instruct，这是一个大规模、多样化和高质量的视觉指导数据集，旨在增强大型多模态模型（LMMs）的指令跟随能力，并通过使用现有的 LLMs 从大规模图像字幕数据集生成新的视觉指导数据，并介绍了一个基于生成的指导数据来
PDF8 days ago
揭示缺陷：探索合成数据的不完美和大型语言模型的缓解策略
合成数据被提出作为解决大型语言模型（LLMs）训练中高质量数据稀缺问题的方法。虽然有研究表明合成数据可以有效提高 LLMs 在下游基准测试中的性能，但分析显示合成数据存在固有缺陷。我们的工作针对广泛存在的问答对（Q-A pairs）合成数据
PDF18 days ago
CoEvol: 通过多智能体合作构建改进的指令微调回复
通过利用大型语言模型进行指导细化和多智能体协作，提出 CoEvol 框架来增强大型语言模型对指令的响应能力，并通过 MT-Bench 和 AlpacaEval 验证了其有效性。
PDF25 days ago
ACL大型语言模型的分阶段指导微调
通过渐进对齐的假设，我们提出了一种新颖的分阶段指令微调（Phased IFT）方法，基于难度评分并使用逐步训练的方式显著地提高了预训练语言模型的指令遵循能力。
PDFa month ago
KIWI：应答研究问题的知识密集型写作指南数据集
通过对 LLMs 在写作辅助任务上的能力进行评估，我们发现所有模型在将新信息纳入现有答案以及进行精确和明确编辑方面都有困难。此外，我们发现模型在判断其输出是否成功遵循用户指令方面也存在困难。研究结果表明，KIWI 将成为衡量进展和改进 LL
PDF4 months ago
多模式偏好对齐解决语言模型视觉指导调整的回归
通过细粒度注释的小型数据集，提出了一种基于蒸馏的多模态对齐模型，修复和增强了视觉指导调整后的多模态大型语言模型的语言能力。
PDF5 months ago
AAAI基于多样化指令的可控生成大型语言模型的基准测试
我们提出了一个新的基准测试 CoDI-Eval，系统和全面评估 LLMs 对带有各种约束的指令的响应，揭示了它们在按照特定约束执行指令方面的局限性和开源与闭源 LLMs 之间存在显著差距。
PDF6 months ago
SOLAR 10.7B: 大规模语言模型的简单有效深度缩放
引入深度上采样（DUS）技术，一种简单高效的基于语言模型（LLM）的升级技术。采用 DUS 构建 SOLAR 10.7B，一个具有 107 亿参数、在自然语言处理任务中展现出卓越性能的大型语言模型（LLM）。相比于现有开源预训练的 LLM（
PDF6 months ago