fine-tuning | BriefGPT - AI 论文速递

关键词fine-tuning

搜索结果 - 1242

在大型语言模型中隐藏文本：引入无条件强迫混淆
使用简单的微调技术，可以将隐藏的文本嵌入到大型语言模型中，而只有在触发特定查询时才会显现。这项工作表明通过微调将隐藏文本嵌入到语言模型中，虽然由于潜在触发器的巨大数量（任何字符或标记的序列都可以作为触发器）而看似安全，但仍然容易通过对语言模
PDFa month ago
利用自监督学习提升模型公平性
自我监督学习对模型的公平性具有显著影响，通过引入公平性评估框架，该研究系统地比较了数百个自我监督和精调模型在性能和公平性方面的差异，并证明了自我监督学习可以在最小损失性能的情况下显著提高模型的公平性。
PDFa month ago
LlamaCare：增强医疗知识共享的大型医学语言模型
提出了使用低碳排放量进行细调的医疗语言模型 LlamaCare，以及处理 LLMs 分类问题的新模块 Extended Classification Integration (ECI)。通过在 PubMedQA 和 USMLE 等基准测试中
PDFa month ago
ACL使用合成数据探索大型语言模型的数学外推
通过对高质量合成数据的微调，本文通过提出的算术难题问题展示出大型语言模型在多步推理任务上的出色表现，并通过开源的 3B 模型在三个不同的测试数据集上实验结果表明，这种模型不仅在域内数据集上能够达到 0.44 的零样本一次通过率 @1，而且还
PDFa month ago
利用大规模 ASR 模型，在自监督学习中追求说话者验证的有监督性能
自我监督学习在发音验证中表现出与有监督系统相近的性能，本研究通过对预训练的 WavLM 进行自我监督有监督微调并使用伪标签，实现了语音表示学习中的有监督性能，取得了 0.99％的 EER，接近有监督基线 0.94％的 EER。
PDFa month ago
ACL协同事件理解：基于大型语言模型的跨文档事件共指消解的协同方法
利用大型语言模型和小型语言模型协作的方法在跨文档事件共指解析中取得了最好的性能，并且在不同的数据集中都表现出了最先进的性能，强调了其在多样场景中的有效性。
PDFa month ago
IJCAI长期对话中的因果知觉位置去偏微调
我们提出了一种名为 CPD 的新方法，它利用基于干扰的因果变量发现方法从对话历史中提取因果相关的话语，并在微调过程中增强模型的因果感知能力，以解决大型语言模型在长期对话中生成无关紧要和通用回应的固有位置偏倚问题。在两个数据集上的实验结果证明
PDFa month ago
大型语言模型微调的优化研究
研究中通过深入研究 Fine-tuning 的优化策略和技术，探讨了对于具有大量参数的语言模型在 GPU 资源限制下，平衡内存和运行时间的最佳优化方案。
PDFa month ago
OLoRA: 正交低秩对大型语言模型的适应
OLoRA 是对 LoRA 方法的增强，利用 QR 分解通过正交矩阵初始化来加速 LLM 训练的收敛速度，同时保留 LoRA 的高效特性，例如可训练参数数量和 GPU 内存占用，实证评估结果显示，OLoRA 不仅收敛更快，而且在各种语言建模
PDFa month ago
ICML利用闭式分类器加速异构联邦学习
通过引入联邦递归岭回归 (Fed3R) 方法，为了解决非独立同分布数据分布造成的统计异质性问题，本研究提出了一种采用闭式计算得出的岭回归分类器的联邦学习策略。该方法对统计异质性的数据分布具有免疫力，并且对客户端的采样顺序是不变的，因此在跨设
PDFa month ago
词典中心的数据收集用于基于 LLM 的机器翻译
LexMatcher 方法使用双语词典生成数据集，利用 LLaMA2 作为基础模型并展示出在 WMT2022 测试集上优于已有基线模型的表现，以及在词义消歧和专业术语翻译等任务中显著的性能提升，突出了 LexMatcher 在增强基于 LL
PDFa month ago
使用微调和多元回归的自动作文多维评分
我们开发了两个模型，通过对两个大型数据集进行微调和其他策略，自动评分英文文章的多个维度，结果显示我们的系统在精确度、F1 得分和 Quadratic Weighted Kappa 三个标准下取得了卓越的性能，并且在整体评分中优于现有方法。
PDFa month ago
LLM 能够自我纠错的实际时机研究：对 LLM 自我纠错的关键调查
通过对大型语言模型（LLMs）进行自我纠正来提高其回答效果是一种改进方法。本文对自我纠正的研究条件进行了关键性调查，发现以往研究往往缺乏详细定义的研究问题，使用非实用的框架和过度评估自我纠正。通过对新分类的研究问题进行关键性调查，我们发现：
PDFa month ago
扩散调整：通过遗忘链传递扩散模型
基于扩散模型的转移性研究，观察到转移能力的遗忘趋势，并提出了 Diff-Tuning 方法，通过保留预训练知识并丢弃噪声，实现对下游生成任务的改进和加速。
PDFa month ago
ICMLFuRL：基于模糊奖励的强化学习的视觉 - 语言模型
本研究调查了如何利用预训练的视觉语言模型（VLM）用于在线强化学习（RL），特别关注稀疏奖励任务下的奖励错位问题，提出了一种轻量级微调方法（称为 FuRL），通过奖励对齐和中继 RL 来增强 SAC/DrQ 基准智能体在稀疏奖励任务中的性能
PDFa month ago
大型语言模型的自动指令演化
Auto Evol-Instruct 是一个自动分析和总结适合给定指令数据的进化策略，并通过改进指令进化过程中暴露的问题，迭代提高进化方法的端到端框架。通过广泛的实验证明，Auto Evol-Instruct 优化的最佳方法在 MT-Ben
PDFa month ago
运用经验影响函数理解微调的逻辑
通过精调来衡量神经网络的学习能力，研究发现常用模型在泛化和逻辑推理方面存在缺陷。
PDFa month ago
QuanTA：量子信息张量调整下高级别语言模型的高效微调
该研究提出了一种名为量子指导张量适应（QuanTA）的新型、易于实现、没有推理开销的微调方法，引入了量子电路结构的量子启发方法，实现了有效的高秩微调，超越了低秩适应方法（LoRA）在复杂下游任务中可能失败的局限性。实验表明，与传统方法相比，
PDFa month ago
基于不确定性指导下的变分自编码器精细调优强化生成分子设计
通过性能反馈在主动学习环境中，我们提出了一种预先训练的变分自动编码器 (VAE) 基因设计模型的模型不确定性引导微调的新方法，通过量化生成模型中的模型不确定性，扩展了有效分子的空间，并利用多样性解码器探索生成优化的多个高性能模型，实验结果表
PDFa month ago
大型语言模型在翻译中的多语言程度如何？
通过在平行文本上对大型语言模型 (LLM) 进行微调，新的机器翻译范式已被证明能够胜过使用大量平行数据以监督方式训练的专用翻译系统，然而，对于大规模多语言机器翻译，是否需要对少数语言对进行专门的模型微调仍然不清楚。本研究通过对 TOWER
PDFa month ago