ACLJul, 2023

无导数权重空间集成

PDF
TL;DR最新研究表明，在两个专门的语言模型的权重之间进行插值可以以多任务学习无法实现的方式在任务之间转移知识。然而，极少有人探索过在两个以上模型之间进行插值，每个模型具有不同的知识库。本文介绍了一种称为 DFWE（Derivative Free Weight-space Ensembling）的新的基于少样本的任务迁移方法，用于开放领域对话。我们的框架使用预定义的源任务集创建了一组多样的专家语言模型。然后，我们在目标任务上对每个专家模型进行微调，从多个不同的知识库中处理目标任务。最后，我们使用无梯度优化算法在模型权重之间进行线性插值，以有效地找到一个好的插值权重。我们在 FETA-Friends 上展示了该方法的有效性，其优于标准的预训练 - 微调方法。
interpolationlanguage modelsknowledge transferderivative free weight-space ensemblingopen-domain dialogue
发现论文，激发创造
  • 融合语言模型权重实现无数据知识融合

    本文提出一种数据无关的知识融合方法，通过在参数空间内合并模型并引导最小化预测差异的权重，将建立在不同训练数据集上的个别模型合并为一个模型，以在所有数据集领域都表现良好并可以推广到域外数据。 在评估设置的一系列电池上，我们发现该方法明显优于 Fisher 加权平均或模型集成等基线，并且我们发现我们的方法是一种有前途的替代多任务学习的方法，可以在不访问训练数据的情况下保留或有时提高个别模型的性能。最后，模型合并比训练多任务模型更高效，因此适用于更广泛的情况。

    Dec, 2022

  • 基于语言模型权重演化的知识融合

    本研究提出了一种名为 Evolver 的知识融合方法，它可以将不同语言模型的权重进行集成，通过进化算法生成新的模型并与父模型进行评估，达到在不同数据领域通用且性能优越的目的，这种方法与现有模型合并框架无缝集成，为模型增强提供了一种多功能工具。

    Jun, 2024

  • 神经机器翻译领域自适应推理

    研究神经机器翻译中的自适应集成加权，解决在不牺牲原始域性能的情况下提高新领域性能，通过两个西班牙语 - 英语和三个英语 - 德语任务的逐步适应比较，提出自适应 NMT 集成解码的新方案，采用源信息扩展贝叶斯插值，并在没有域标签的情况下在测试领域中展现了较强的改进。

    Jun, 2019

  • FewFedWeight：针对多个 NLP 任务的 Few-shot 联邦学习框架

    FewFedWeight 是跨多个任务的 few-shot 联邦学习框架，通过在隔离设备上训练客户端模型，广播全局模型并为客户端生成伪数据，同时使用能量算法对伪样本进行加权，动态聚合客户端模型的自适应模型权重更新全局模型，可显著提高客户端模型的性能。

    Dec, 2022

  • 元学习快速权重语言模型

    本研究提出了一种称为 Fast Weight Layers (FWLs) 的神经组件，通过将梯度更新表示为线性注意力，以更高效的方式提供动态评估的好处。FWLs 可以在训练时应用于模型，因此模型可以学习如何充分利用梯度更新。FWLs 可以轻松地叠加在现有的 Transformer 模型之上，在运行时需要相对较少的额外计算或内存，可以显著提高语言建模的困惑度。

    Dec, 2022

  • 虚假特征多样化提高离域泛化

    通过理论分析和实证研究，我们发现在处理超越分布数据的机器学习任务中，利用多样的偶然特征进行加权模型集成可以显著提高整体的超越分布泛化性能，而不同于传统观点所认为的学习不变特征的方法。此外，我们提出了一种名为 BAlaNced averaGing (BANG) 的方法，可以有效修复原有方法 WiSE-FT 在超越分布情况下的过度自信问题，进一步提升其超越分布性能。

    Sep, 2023

  • 通过权重融合的专家组混合合并多任务模型

    将各种在不同任务上训练的基于 Transformer 的专用模型合并为一个统一的模型，可以同时执行所有任务，通过识别并分离共享知识和任务特定知识，并动态地集成它们，可以在很大程度上减轻参数干扰问题。

    Feb, 2024

  • 通过增强实现权重空间网络的改进泛化

    分析神经网络的深度权重空间（Deep Weight Spaces，DWS）中的过拟合问题，针对该问题提出数据增强和自监督对比学习方法，并在分类和自监督学习中证明了其有效性。

    Feb, 2024

  • 巨人的肩膀上：动态逻辑融合实现轻弱到强强的过渡

    通过使用逻辑融合方法，将专家模型的专业知识传递给更大的模型，从而实现高效的对大语言模型进行定制化微调。

    Jun, 2024

  • 解释定制扩散模型的权重空间

    通过创建超过 60,000 个基础模型，我们调查了一系列定制扩散模型的权重空间。这些模型是通过微调基本模型以插入不同人的视觉特征而创建的。我们将这些权重的潜在流形建模为一个子空间，我们称之为权重到权重。通过权重空间，我们展示了三个直接的应用 —— 抽样、编辑和反转。首先，由于空间中的每个点对应一个身份，从中抽取一组权重会得到一个编码新身份的模型。接下来，我们发现该空间中的线性方向对应于身份的语义编辑（例如，添加胡须）。这些编辑在生成的样本中保持外观一致。最后，我们证明将单个图像反转到该空间中会重构出一个逼真的身份，即使输入图像不符合分布（例如，一幅绘画）。我们的结果表明，经过微调的扩散模型的权重空间行为类似于可解释的身份潜空间。

    Jun, 2024