open-source language models | BriefGPT

关键词open-source language models

搜索结果 - 5

通过密码学变换电路在语言模型中无法激发的后门
快速增殖的开源语言模型显著增加了下游后门攻击的风险，而这些后门可以在模型部署期间引入危险行为，并可以逃避传统的网络安全监控系统的检测。本文介绍了一种新型的自回归变压器模型后门，与现有技术相比，具有无法引诱的特点。这种无法引诱性质阻止了防御者
PDFa month ago
ACL揭开模仿学习的面纱：探索数据虚假对大型语言模型的影响
通过使用合成指令数据重新训练 ChatGPT 和 GPT-4 等领先专有模型，许多最近的研究试图改进开源语言模型的模仿学习。然而，合成数据的固有特性本质上包含有噪声的数据，导致大量低质量数据存在错误响应和有缺陷的推理。本文探讨了噪声程度与其
PDF3 months ago
MathGenie: 利用问题逆向翻译生成合成数据以提升 LLMs 的数学推理能力
MathGenie 是一种从小规模的问题解决数据集（称为种子数据）生成多样且可靠的数学问题的新方法，通过增加种子数据的真实解决方案，并训练一个回译模型将增加的解决方案翻译回新问题，从而产生与代码集成的问题解决方案，进而提供理性基础验证策略，
PDF4 months ago
聊天机器人不可靠的文本标注工具
对比研究发现，ChatGPT 和开源语言模型在标注社会科学研究中的文本任务中表现存在显著差异，而监督分类模型一贯表现更优，因此不建议在社会科学研究中使用 ChatGPT 进行实质性的文本标注任务。
PDF8 months ago
OpenChat: 运用混合质量数据推进开源语言模型
通过使用混合质量数据改进开源语言模型，本论文介绍了一种名为 OpenChat 的新框架，其中以少量的专家数据与大量的次优数据混合构成的一般 SFT 训练数据作为粗粒度奖励标签，通过 C-RLFT 学习类别条件策略，从而实现了在三个标准基准测
PDF10 months ago