fine-tuning | BriefGPT - AI 论文速递

关键词fine-tuning

搜索结果 - 1196

输入条件的语言代理图生成
基于大型语言模型的语言代理，使用图形框架构建的动态学习方法，通过强化学习进行微调，能够根据给定的输入生成内部通信表示，实现较高的准确率。
PDF2 days ago
大型语言模型中忠实思维链路推理的困难性
大语言模型（LLM）在关键领域，如医疗保健中得到越来越多的应用，为了确保这些模型生成的链式思维（CoT）推理能够忠实地捕捉其基本行为，我们探索了三种常用方法 —— 上下文学习、微调和激活编辑 —— 来指导 LLM 的行为，以提高 CoT 推
PDF4 days ago
学习适应基础模型 DINOv2 以应用于胶囊内窥镜诊断
我们介绍了一种名为低秩适应（LoRA）技术的简化方法，用于将基础模型进行自定义，通过将低秩适应学习应用于胶囊内窥镜诊断，取得了令人印象深刻的结果。
PDF4 days ago
基于学习的子空间投影器的通用 GPU 上超参微调 LLM 的实用卸载
通过学习稀疏压缩器和新颖的分层通信调度，我们提出了一个离线框架 LSP_Offload，能够在普通硬件上以接近原生速度进行大型语言模型的微调，从而在受限的内存条件下显著提高微调吞吐量并缩短微调时间。
PDF5 days ago
分组与混洗：高效结构正交参数化
在本研究中，我们引入了一类新的结构化矩阵，统一并推广了之前工作中的结构化类，以进一步改进参数和计算效率。我们还将这种参数化方法用于修改正交微调框架，在不同领域进行了实证验证，包括文本与图像扩散模型的自适应和语言建模中的下游任务微调。此外，我
PDF5 days ago
Delta-CoMe: 大型语言模型的无需训练的混合精度增量压缩
通过将细调的大语言模型进行分解和压缩，并采用混合精度的方法，我们提出了一个保持模型性能的增量量化方法，实验证明其在各种细调的语言模型中表现出与完整模型相当的性能，在低秩和低比特方法上也表现出明显优势，并且与其他基础语言模型兼容。
PDF6 days ago
OpenVLA：一个开放源代码的视觉语言行动模型
通过使用互联网规模的视觉 - 语言数据和多样化的机器人演示进行预训练的大型模型，可以改变我们教授机器人新技能的方式：相对于从零开始训练新行为，我们可以对这种视觉 - 语言 - 动作（VLA）模型进行微调，以获得稳健、具有广泛适用性的视觉 -
PDF6 days ago
低资源情景下 TTS 系统的语言适应初探
本文探讨了基于自监督学习 (SSL) 多语言模型的 ZMM-TTS 语言适应能力，研究发现了预训练语言和目标语言的语音学相似性、语言类别、微调数据集大小以及说话人数量对适应性的影响，并且发现相对于配对数据，仅音频数据在微调中并不总是最优选择
PDF6 days ago
构建工业级对话助手的零 - shot 槽填充系统的方法
我们提出了一种基于大型语言模型（LLM）的插槽填充系统，用于在跨多种工业级应用领域中的会话助手中执行对话状态跟踪。
PDF6 days ago
CVPRPC-LoRA：基于知识蒸馏的逐步模型压缩的低秩适应
逐步压缩低秩适应（PC-LoRA）方法通过低秩适应同时进行模型压缩和微调，最终仅保留低秩适配器以取代预训练权重，实现了参数和计算量的压缩。
PDF6 days ago
LASER：通过自我监督学习对齐语音表示以改进内容相关任务
使用 SSFT 方法 LASER，通过自附着自监督表示的学习和对齐，通过少量的 GPU 精调获得相对于 ASR 和 PR 任务的显著改进。
PDF6 days ago
技能混合：学习为优化大型语言模型的数据使用进行微调
我们提出了一种通用的、模型无关的强化学习框架 Mixture-of-Skills (MoS)，它能在微调过程中自动优化数据使用，以实现大型语言模型的全面技能发展。我们通过在两个广泛使用的基准测试上进行大量实验证明 MoS 显著提高了模型性能
PDF6 days ago
更新 CLIP 以偏爱描述而非标题
通过使用 Concadia 数据集来更新 CLIP 模型，使用参数高效微调和基于因果可解释性的损失目标，以区分描述和标题，并获得盲人和弱视人群的判断，同时保持转移能力和可解释性结构。
PDF7 days ago
大型语言模型必须学会自知之明
在高风险应用中使用大型语言模型（LLMs）时，我们需要知道何时可以信赖它们的预测。本研究首先论证了仅仅使用提示是不足以实现良好校准的，然后展示了在一个小数据集上进行精调以创建具有良好概括性和小计算开销的不确定性估计的方法。我们还研究了可靠的
PDF7 days ago
从容不迫：大型语言模型上上下文窗口扩展的高效配方，持续关注 “中间” 增强
提出了一种称为 CREAM 的方法，通过操纵位置索引插值位置编码，从而实现对预训练大型语言模型的上下文长度进行扩展，并解决长上下文模型面临的 “丢失在中间” 问题。
PDF8 days ago
使用 HED-IT 进行精调：人工后期编辑对对话式语言模型的影响
本研究通过调查人类干预对机器生成数据进行微调对话模型的影响，证明了人类后编辑对话相较于自动生成的对话在感知质量上具有显著提高，并且使用后编辑对话进行微调会导致生成输出有明显差异。此外，该研究认为数据质量对较小的模型影响重大，而对较大的模型影
PDF8 days ago
利用大型语言模型进行临床自然语言处理中基于无知识弱监督的优化
使用弱监督和微调大型语言模型（LLM）的方法，在几乎没有领域知识的情况下，能够在性能上显著优于传统的有限的标准数据的监督方法，利用基于提示的方法，LLM 生成弱标记数据来训练下游的 BERT 模型，然后将弱监督模型进一步在少量的标准数据上进
PDF9 days ago
SinkLoRA：增强效率与聊天能力的大型长文本语言模型
扩展 Transformer 模型以适应更长的序列长度是一项关键挑战，本文提出了 SinkLoRA 作为应对策略，通过改进工作分配和应用高效的缓存压缩算法来提高模型性能。
PDF10 days ago
用于优化西班牙大型语言模型的 17 世纪西班牙美洲公证记录
展示了如何利用 17 世纪阿根廷国家档案馆的手写公证记录来优化西班牙语言模型，以进行分类、遮蔽语言建模等任务，证明这个资源在历史文本分析领域非常有价值。
PDF10 days ago
大规模预训练先验指导的领域泛化
通过在领域一般化算法的微调过程中利用预训练模型，我们提出了一种新的微调方法，该方法称为 “用大规模预训练先验进行微调（FT-LP）”，在多个数据集和领域一般化模型上的实验证明了其显著改进和有效性。
PDF10 days ago