fine-tuned model | BriefGPT

关键词fine-tuned model

搜索结果 - 9

增强 Amharic-LLaMA：整合任务特定和生成型数据集
通过整合任务特定数据集和生成数据集，我们改进了 LLaMA-2-Amharic 模型，提高了其对阿姆哈拉语的语言模型性能，并公开了我们的数据集创建流程、指导性数据集、训练模型和评估结果，以促进针对特定语言的研究。
PDF5 months ago
专家混合模型
引入了 Mixtral 8x7B，一种稀疏的专家混合（SMoE）语言模型，采用了与 Mistral 7B 相同的架构，每个层由 8 个前馈块（即专家）组成，并通过路由网络选择两个专家处理当前状态和组合它们的输出，最终得到使用 13B 活跃参
PDF6 months ago
ICLR用合成数据对 LLM 进行精简自我评价：一个贝叶斯视角
本文通过引入精简自我批判（dSC）将 RLAIF 的解释视为贝叶斯推理，通过 Gibbs 采样器对 LLM 的输出进行改进并提炼为经过调整的模型。只需合成数据，dSC 在安全、情感和隐私控制实验中表现出能够成为与 LLMs 相符的可行且廉价
PDF7 months ago
EMNLP个性化回复选择的即插即用人设提示技术 P5
利用个人化引导的基于检索的聊天机器人在个性化对话中至关重要，但存在几个需要解决的挑战。为了解决这些挑战，我们提出了一种即插即用的个人化提示方法，该系统可以作为标准开放域聊天机器人使用，同时降低对个人化训练数据的依赖，提供更好的性能。这是首次
PDF9 months ago
谁是哈利・波特？在 LLMs 中的近似遗忘
我们提出了一种新的技术来从 LLM 中遗忘训练数据的子集，而无需重新训练它，该技术在 Harry Potter 相关内容的生成或召回方面具有有效的能力。这是首篇呈现生成式语言模型中遗忘有效技术的论文。
PDF9 months ago
语义相似度预测优于其他语义相似度度量
使用经过微调的模型准确预测语义相似度，以测量自然语言文本之间的语义相似度，与传统的基于子序列重叠或嵌入的方法相比，效果更好。
PDF9 months ago
VeriGen: Verilog 代码生成的大型语言模型
通过在 Verilog 数据集上微调现有的 Large Language Models（LLMs），我们探索了使用 LLMs 自动生成高质量的 Verilog 代码的能力。微调后的开源 CodeGen-16B 模型在功能正确性上优于最先进的
PDFa year ago
衡量自然语言处理模型对领域转移的鲁棒性
本文就自然领域转变设置中，fine-tuned model 和 few-shot learning model 的 domain robustness challenge 进行了研究，并提出 Source Drop (SD) 和 Targe
PDFa year ago
AAAIImageNet 预训练也能转移非鲁棒性
本文研究表明，ImageNet 预训练模型虽然在泛化方面作出了贡献，但同时也将非健壮性特性从预训练模型转移到了下游分类任务中的微调模型，本文介绍了其原因并提出了一种简单的健壮性 ImageNet 预训练解决方案。
PDF3 years ago