instruction tuning | BriefGPT

关键词instruction tuning

搜索结果 - 144

MAmmoTH2：网络中的指令扩展
我们提出了一种新的方法，通过从预训练的网络语料库中高效地收集 1000 万条自然存在的指导数据来增强大型语言模型 (LLMs) 的推理能力，从而显著提高了模型在推理基准测试中的性能，并在多个推理和聊天机器人基准测试中获得了最先进的性能。
PDF11 days ago
MANTIS: 并行多图像指令调优
通过使用学术级资源进行指导调整，我们构建了多弱像素 LMMs，结合了多个单像素视觉语言数据集，证明了以低成本的指导调整构建多弱像素 LMMs 的效果比密集预训练更好。
PDF15 days ago
指导事项对于特定任务的指导调优中的简单而有效的任务选择方法
指导调优通过仅利用指导信息来识别相关任务，并另外学习元数据集的独特指导模板风格，提高任务选择准确性，从而改进了性能。
PDF22 days ago
指令调整能提高 LLMs 的一致性吗？
说明指令调整对模型的一致性有积极影响，提高了零样本性能、思维连贯性和价值对齐，并通过对事实记忆的机制分析解释了这些改进。
PDF24 days ago
多模态大语言模型是文本到图像生成的人类对齐标注器
通过利用多模态大型语言模型创建 VisionPrefer，我们构建了一个高质量和细粒度的用户偏好数据集，用于指导文本到图像生成模型的训练，该数据集在多个偏好方面捕捉了人类的喜好，并且其性能优于之前的人类偏好度量标准，并证明了将人工智能生成的
PDF24 days ago
XFT：通过简单合并升级的专家混合解锁代码指令调优的潜力
通过将升级 Mixture-of-Experts (MoE) 与稀疏升级相结合，并引入共享专家机制和路由权重归一化策略，XFT 训练方案显著增强了指令调优，将升级 MoE 型号编译回密集型型号，实现了与升级 MoE 型号相当的性能。应用 X
PDF24 days ago
EVIT: 面向事件推理的事件导向指令调整
本文提出了一种名为事件导向指导调整（EvIT）的方法来训练我们的大型语言模型，通过引入事件四元组及相应的关系学习，结合启发式的无监督方法从大规模语料库中挖掘事件四元组，从而更好地激发模型的事件推理能力，并在多个数据集上进行广泛的实验验证，自
PDFa month ago
ACL揭开模仿学习的面纱：探索数据虚假对大型语言模型的影响
通过使用合成指令数据重新训练 ChatGPT 和 GPT-4 等领先专有模型，许多最近的研究试图改进开源语言模型的模仿学习。然而，合成数据的固有特性本质上包含有噪声的数据，导致大量低质量数据存在错误响应和有缺陷的推理。本文探讨了噪声程度与其
PDFa month ago
ACLCodecLM: 用定制的合成数据对齐语言模型
通过使用编码 - 解码原理，我们引入了 CodecLM，这是一个用于自适应生成与不同后续指令分布和大语言模型对齐的高质量合成数据的通用框架。在编码过程中，我们将种子指令转化为元数据，然后通过解码来创建定制的指令。我们还引入自我评分和对比过滤
PDFa month ago
Conifer: 提高大型语言模型复杂约束指令遵循能力
通过引入名为 Conifer 的新型指令调整数据集，以及采用渐进学习方案和学习过程反馈，我们提高了大型语言模型（LLMs）在遵循具有复杂约束的多级指令方面的能力，并在几个指令遵循基准测试中，实现了与现有 7B 模型相比的显著改进，甚至在某些
PDFa month ago
FLawN-T5: 法律推理的有效指导调整数据混合的实证研究
该研究提出了一种法律指令数据集（LawInstruct），通过领域特定的预训练和指令调整来改进法律任务处理性能，加快发展在法律领域中具备更强信息处理和决策能力的模型。
PDFa month ago
CVPR学习纠正：零样本生成视觉 - 语言推理的高效调节任务
通过 Image-Conditioned Caption Correction（ICCC）指导的二次调整，提高图像与语言之间的零 - shot 推理性能。
PDF2 months ago
代码大型语言模型的代码比较调整
代码比较调优 (CCT) 是用于优化大型编程语言模型（Code LLMs）以更好地处理微妙的代码错误的简单而有效的调优方法。通过在标记和序列级别上将比较的概念引入指令调优中，使模型能够辨别代码中最细微的偏差。与包含手动添加的代码错误的原始代
PDF2 months ago
大型语言模型用于数学推理的双向指导优化
介绍了利用大型语言模型进行指令调优的最新进展，提出了一种双向指令调优策略，通过前向和后向推理任务来改善语言模型对数学推理的理解与执行能力。通过广泛实验证明，这种策略适用于多种数学推理任务并具有领域通用性。
PDF2 months ago
信息提取是否存在一种适用于所有模型的方法？重新审视任务定义偏见
信息提取中的定义偏见是一种负面现象，可能会误导模型。为了系统地调查和解决信息提取中的定义偏见，我们提出了一个多阶段框架，包括定义偏见测量、偏见感知微调和任务特定的偏见缓解。实验证明了我们框架在解决定义偏见方面的有效性。
PDF2 months ago
KIT-19：用于对韩国大型语言模型进行微调的 19 个任务的综合韩语教学工具包
利用 KIT-19 数据集训练的韩国预训练大语言模型在性能上显著优于现有韩国大语言模型，并具备潜力从根本上改善韩国大语言模型的性能。
PDF2 months ago
ACLInsCL：一种数据高效的连续学习范式，用于对大型语言模型进行微调并提供指导
在本研究中，我们提出了一种称为基于指令的连续学习（InsCL）的新范例，通过使用 Wassertein 距离计算任务相似性并基于此动态地回放先前的数据，实现了基于任务相似性的回放策略，同时引入了指令信息度量（InsInfo）来量化指令的复杂
PDF2 months ago
不要半听半信：连续指令调优中关键部分信息捕捉
通过关键部分信息增益（KPIG）的动态重播数据和优化训练目标，我们提出了一种新的大语言模型（LLMs）的连续指令调整方法，从而使 LLMs 能够捕捉与正确响应相关的任务感知信息，并减轻对指令中的一般描述的过拟合。实验表明，我们的方法在已知任
PDF2 months ago
CoIN：一个用于多模型大型语言模型的连续指令调整基准测试
通过连续指令调整（CoIN）对多模态大型语言模型（MLLMs）进行评估，发现当前强大的 MLLMs 仍然存在灾难性遗忘，并提出了 MoELoRA 方法有效地保留了以前的指令对齐。
PDF2 months ago
SMART：指令调优的子模数据混合策略
SMART 是一种基于子模函数的数据混合策略，用于在有限的预算情况下改进指令调优，通过选择代表性子集中的任务来分配预算，以实现更好的性能。
PDF2 months ago