finetuning | BriefGPT - AI 论文速递

关键词finetuning

搜索结果 - 119

探究语音自监督模型中的 ' 自编码器行为 ': 以 HuBERT 的预训练为重点
自我监督学习在语音识别中取得了巨大成功，然而已观察到微调学习模型的所有层相对于重设顶层会导致性能下降，这种现象被归因于 "自编码器" 行为：顶层包含更接近于输入的信息，对于需要语言信息的任务（例如语音识别）不太适用。为了更好地理解这种行为，
PDF3 days ago
TALC: 多场景文本到视频生成的时间对齐字幕
我们介绍一种称为 Time-Aligned Captions（TALC）框架的方法，通过增强文本条件机制，使得文本到视频（T2V）模型能够生成符合多场景文本描述的多场景视频，并且在视觉上具有一致性。通过使用 TALC 框架对预训练的 T2V
PDF10 days ago
长篇上下文模型的现场学习：深入探索
当模型的上下文长度不断增加时，可以提供的演示数量接近整个训练数据集的规模。在多个数据集和模型上，我们研究了在这种极端规模下的上下文学习（ICL）的行为。我们展示了对于许多具有大型标签空间的数据集，性能在数百或数千个演示中仍在增加。与示例检索
PDF17 days ago
克服知识障碍：基于预训练世界模型的在线模仿学习
通过预训练和微调等方法，将计算机视觉和自然语言处理领域的成功范式引入到决策过程中已成为近年来越来越受欢迎的研究方向。本篇研究主要探讨了使用预训练模型进行观察性仿真学习，发现现有的方法在应对环境体验知识障碍和示范知识障碍方面存在局限，限制了其
PDF18 days ago
CoTAR: 用多级细粒度的链式思维归因推理
通过引入面向归因的思维链推理方法来提高归因准确性，并与微调相结合，改进了生成模型的反应和归因准确性，显示了小型大语言模型在某些情况下超越 GPT-4 的潜力。
PDFa month ago
CVPR基于锚点的视觉语言模型的鲁棒微调
我们提出了一种补偿微调过程的方法，利用具有丰富语义信息的辅助监督作为锚点来保留原始的 CLIP 特征空间，从而保持了 OOD 泛化性能，并在领域迁移和零样本学习基准上取得了新的最先进结果。
PDFa month ago
ACL独立于语言的表征改善零 - shot 摘要
使用领域下的生成任务对预训练模型进行微调往往导致零热点条件下的灾难性遗忘。本研究关注摘要生成并通过语言无关的表示解决这个问题。通过在单语摘要上进行训练，我们在新语言或语言对之间进行零热点传输。首先我们展示原先微调的模型在输出行为和内部表示上
PDFa month ago
ANGOFA：利用 OFA 嵌入初始化和合成数据的安哥拉语言模型
通过引入四个针对安哥拉语言进行微调的针对预先训练语言模型（PLM）进行定制的 PLM，采用多语言自适应微调（MAFT）方法，本文调查了在下游任务中通过信息嵌入初始化和合成数据来增强 MAFT 模型性能的作用，将基线模型在 SOTA Afro
PDFa month ago
利用零射击提示进行高效的语言模型蒸馏
本文介绍了一种新颖的方法，可以将 LLMs 高效地提炼成更小的、面向特定应用的模型，显著降低运营成本和人工劳动。该方法利用 LLMs 的推理能力为无标签数据生成标签和自然语言解释，从而在有限数据和计算资源情况下增强模型的微调和提炼效果。其中
PDF2 months ago
ACL预训练语言模型在低资源文本上的泛化和稳定调优
基于注意力引导的权重混合和双层优化框架，我们提出了一种用于预训练语言模型的微调方法，以解决在低资源数据集上微调模型时的不稳定性和过拟合问题，在广泛的实验中验证了该方法的有效性和优越性。
PDF2 months ago
鲁棒视觉变换的近似零空间增强微调
通过利用线性代数中的零空间概念，对视觉变换器（ViTs）进行微调以增强其鲁棒性，证明了许多预训练的 ViTs 存在一个非平凡的零空间，也展示了如何通过优化策略合成 ViTs 非线性块的近似零空间元素，最终通过泛化合成的近似零空间噪声进行微调
PDF2 months ago
不熟悉的微调范例控制语言模型的幻觉
通过深入研究机制，我们发现大型语言模型（LLMs）如何产生幻觉，研究表明 LLMs 在面对不熟悉概念时倾向于默认使用一种 “关于不确定性的预测”，可以通过修改训练数据中的监督来控制 LLMs 对于不熟悉输入的预测，我们基于这些原则，开发了一
PDF2 months ago
跨越语言的视角：越南大型语言模型的微调和全面评估
通过为越南语进行精细调整并开发了综合评估框架，我们发现精细调整的大型语言模型在越南语上表现出更好的理解和生成能力，并且模型规模和训练数据质量对模型的性能有重要影响。
PDF2 months ago
学习和利用世界模型在视觉表示学习中
通过预测缺失部分的输入，我们提出了 Image World Models 这一方法，它不仅限于掩蔽图像建模，而且能够学习预测潜在空间中全局光度变换的效果。同时，我们展示了通过微调适应 IWM 的预测世界模型，以解决多样化任务的能力，并说明了
PDF3 months ago
增强大型语言模型的事实性通过协同解码关键标记
使用协作解码框架来减少语言模型产生幻觉的重要性，通过利用预训练模型中的高度事实性来生成下一个标记，可以有效地降低模型的幻觉发生率。
PDF3 months ago
ICLR当扩展与 LLM 微调相遇：数据、模型和微调方法的影响
大语言模型的微调方法的缩放因子对模型性能的影响的系统实验结果表明，LLM finetuning 遵循微调数据量与其他缩放因子之间的幂函数乘法联合缩放规律，LLM 模型尺寸的扩大比预训练数据尺寸的扩大对 finetuning 更有益处，而仅考
PDF3 months ago
设定时钟：预训练语言模型的时间对齐
通过对预训练语言模型进行时间对齐，本研究探索了将内在知识与目标时间对齐的方法，并发现对年份为 2022 的 LLaMa2 模型进行对齐可以将其性能相对提高 62%，此外，该研究还发现对历史时间进行对齐同样是可行的，可以使模型在 2010 年
PDF3 months ago
连续时间扩散模型的熵正则控制微调
通过以预训练扩散模型为基础，直接优化熵增强奖励函数的神经 SDE，我们提出了一种解决奖励陷入崩溃问题的框架，理论和实证证据表明该框架能够高效生成具有高真实奖励的多样样本，并减少对不完美奖励模型的过度优化。
PDF3 months ago
深度基础潜空间内的无监督领域自适应
这篇研究论文分析了基于视觉 Transformer 的基础模型（如 ViT 或 Dino-V2）在无需精调特征的情况下解决问题的能力，通过对原型网络设置的实验，定量分析以及对决策过程的定性解释，我们展示了所提出的方法在无监督领域适应中的应用
PDF3 months ago
LoRA+：大型模型的高效低秩自适应
通过设置适当的比率为 LoRA 适配器矩阵 A 和 B 设置不同的学习率，我们提出了一种名为 LoRA$+$ 的算法，解决了 LoRA 的次优问题同时提高了性能（1-2％改进）和微调速度（最高约 2 倍速度提升）的问题。
PDF3 months ago