fine-tuned models | BriefGPT

关键词fine-tuned models

搜索结果 - 38

评估拉马大型语言模型的新兴符号推理能力
大型语言模型在各种任务中取得了令人印象深刻的表现，即使它们通常只是为了与用户流畅聊天而训练。本文系统地研究了流行的开源大型语言模型在不同符号推理任务上的能力和局限性。我们评估了 Llama 2 家族的三个模型在两个需要解决不同难度数学公式的
PDFa month ago
基于提示和微调的 LLM 与因果图验证
该研究旨在利用自然语言处理技术通过文本来源对因果图进行自动验证。与之前的研究成果相比，该研究发现经过精调的预训练语言模型在因果关系分类任务上表现远超基于提示的语言模型，F1 得分最高提高了 20.5 个百分点。
PDFa month ago
ReflectionCoder: 学习反射序列以增强一次性代码生成
ReflectionCoder 通过整合编译器反馈构建反射序列来提高一次性代码生成性能，并提出了自我蒸馏和动态掩蔽蒸馏来有效利用这些反射序列。实验证明，使用我们的方法微调的模型在三个基准测试上达到了最先进的性能，超过了 GPT-3.5-Tu
PDFa month ago
HateTinyLLM：使用微型大型语言模型进行仇恨言论检测
本研究介绍了一种名为 HateTinyLLM 的基于精调的解码器型微型大型语言模型（tinyLLM）的新框架，用于高效检测仇恨言论。实验证明，精调的 HateTinyLLM 在检测效果上明显优于预训练的 mixtral-7b 模型。我们尝试
PDF2 months ago
ChatGPT 与媒体偏见的比较研究：GPT-3.5 和微调语言模型
ChatGPT 的研究探索大型语言模型在媒体偏见检测方面的效力，结果显示 ChatGPT 在检测仇恨言论和文本级别上的情境偏见方面与精细调校的模型表现相当，但在其他偏见检测方面（包括虚假新闻、种族、性别和认知偏见）遇到困难。
PDF3 months ago
利用大型语言模型进行初步安全风险分析：一项关键任务案例研究
利用经过调优的模型对于初步安全风险分析的能力进行研究，通过减少错误、加快风险检测以及降低错误的伪正例和伪负例，以节省公司的开支，从而使专家能够在压缩的时间框架内进行更全面的风险分析。
PDF3 months ago
阿拉伯 GPT：基于阿拉伯语的大型语言模型
本研究旨在解决目前英语和拉丁语为主导的大型语言模型 (LLMs) 中，对于阿拉伯语母语的阿拉伯 LLMs 的缺乏问题。通过提出 ArabianGPT 系列模型，结合 AraNizer 分词工具和微调技术，有效改进了阿拉伯语自然语言处理的准确
PDF4 months ago
大规模的端到端多语种事实核查
通过 Factiverse AI 模型，在超过 100 种语言中进行端到端事实核查，并通过实验基准证明，针对事实核查任务进行细化调整的模型优于大型语言模型，如 GPT-4，GPT-3.5-Turbo 和 Mistral-7b。
PDF4 months ago
无监督的问答模型自适应
通过无监督的大语言模型适应，研究论文探索了在不同目标领域中提供正确答案的问题回答，并研究了输入标记替换等方法来部分缓解中间和末尾信息获取的困难。
PDF5 months ago
WWWLinkNER: 使用不确定性将本地命名实体识别模型与大型语言模型连接
通过将小型微调模型与大型语言模型（LinkNER）结合、以及一种基于不确定性的链接策略（RDC），以提高 NER 任务性能并在鲁棒性测试中明显超过 SOTA 模型，我们量化分析了关键组件如不确定性估计方法、大型语言模型和上下文学习对各种 N
PDF5 months ago
SPECTRUM: 面向长对话概述的说话者增强预训练
在本文中，我们提出了一种用于长对话摘要的说话者增强的预训练方法，该方法利用了多轮对话的内在结构。我们通过收集多样化的数据集，并进行预训练，实验证明我们的模型在具有长上下文的基准测试中取得了最先进的性能，超过了基准模型，并突出了我们方法的有效
PDF5 months ago
基于 Transformer 的细调编码器在土耳其语言理解任务中的应用
我们在这项研究中，为土耳其语提供了基于 Transformer 模型的 BERTurk 模型，并进行了多个下游任务的微调和评估，包括命名实体识别、情感分析、问题回答和文本分类。与其他基线方法相比，我们的研究在土耳其语中显著提高了性能，并公开
PDF5 months ago
Health-LLM：通过可穿戴传感器数据进行健康预测的大型语言模型
该研究探讨了大规模语言模型在多模态健康预测中的应用，通过上下文信息和生理数据进行综合评估，并展示了 fine-tuned 模型在健康预测任务中的表现和对上下文增强策略的有效性。
PDF6 months ago
GistScore：使用 Gist 瓶颈学习更好的上下文示例选择表示
使用 GistScore 度量示例 Gisting 的新方法，基于 Fine-tuned 模型实现最新的 in-context learning（ICL），在 21 个不同数据集上，可以获得超过 20% 绝对平均增益，且速度比之前最佳的非训
PDF8 months ago
对话摘要模型在自然出现的变化下的稳健性评估
对话摘要任务涉及在保留最显著信息的同时对长对话进行总结。实际生活中的对话经常会出现自然发生的变化（例如，重复、犹豫），现有的对话摘要模型在此类对话上的性能下降。本研究系统地研究了此类变化对最先进的对话摘要模型的影响，使用公开可用数据集。为了
PDF8 months ago
究竟是否 “越大越好”？应用于应对虚假信息的索赔检测语言模型的全面研究
本研究比较了经过调整的模型和极大语言模型在可检测可信度主张的任务中的性能。通过使用包含不同来源和风格的文本构建了一个多语种和多主题数据集，并基于此进行了基准分析，确定了最通用的多语种和多主题主张检测器。我们选择了三个最先进的模型进行了可检测
PDF8 months ago
EMNLP代词的故事：可解释性指导对公正指令调整机器翻译中的性别偏见缓解
探讨了细调指令模型在机器翻译中存在性别偏见的问题，并提出了基于少样本学习的易于实施且有效的偏见缓解解决方案，以实现更公平的翻译。
PDF8 months ago
基于骨架的岩石裂纹检测方法研究及其在攀岩机器人应用中的应用
传统的轮式机器人不能穿越科学上有趣但危险的洞穴环境。通过多肢爬行机器人设计（如 ReachBot），我们能够抓住不规则表面特征并执行攀爬动作以克服障碍，前提是有合适的抓取位置。为了支持抓取位置的识别，我们提出了一种检测岩石裂缝和边缘的方法，
PDF10 months ago
使用大型语言模型生成数学推导
利用大型语言模型 (LLMs) 进行特定领域的数学推导是一项新兴的研究方向，可以帮助发现模型的局限性，潜在地支持数学发现。本文利用符号引擎在大规模上生成方程的推导，并研究 LLMs 在从前提中推导目标方程时的能力。实证结果表明，fine-t
PDFa year ago
评估大型语言模型在生成准确教师回应方面的有效性
通过评估多个基准生成模型在教育对话中提供信息和帮助学生的能力，本研究旨在模拟一个有知识的老师的角色，并发现 GPT-4 在教师 - 学生聊天记录子集上的优越性，测量标准是 BERTScore 和 DialogRPT，同时注意到采样、代表性和
PDFa year ago