Aug, 2024

您只需一次合并：学习基于偏好的模型合并的帕累托集

HTML
PDF
TL;DR本研究解决了现有模型合并方法只能生成单一合并模型的问题，使得合并后的模型可能无法满足不同用户的偏好。我们提出了一种基于偏好的模型合并方法，将其公式化为多目标优化问题，在一次合并过程中生成完整的帕累托集，能够根据用户的特定偏好选择合适的合并模型。实验结果表明，该方法可以获得多样化的权衡模型，超越了当前最先进的模型合并基线。
发现论文，激发创造
  • 合并模型时解决干扰

    本文提出TrIm方法，即Elect Sign & Merge (TIES-Merging)方法，用于多任务模型的合并，该方法解决了现有合并方法忽略不同模型参数之间干扰，从而导致性能下降的问题。在多种不同情境下的实验中，本方法都表现优异，证明了解决符号干扰的重要性。

    Jun, 2023

  • 重新考虑排列对称性用于合并来自不同数据集的模型

    本文研究了不同数据集之间的模型合并，并通过理论和实证分析发现，不同数据集之间的合并模型准确性下降更为显著，其不同的损失景观使得模型合并更加困难。同时，我们还表明，使用数据集进行模型合并需要高准确性，而凝缩的数据集可以作为原始数据集的替代品进行模型合并。在 MNIST 和 Fashion-MNIST 之间合并模型的实验中，使用数据集的准确性显著提高了28％，使用精简数据集提高了25％，相比不使用数据集。

    Jun, 2023

  • 无培训预训练模型融合

    通过双空间约束下的模型合并框架 (MuDSC) 提出了一种解决方法，利用排列矩阵在双空间中探索位于具有统一高相似度的区域，从而显著提高合并模型的性能。

    Mar, 2024

  • MAP: 低计算模型合并与经摊销帕累托前沿的二次近似

    通过使用近似评估度量的二次模型，模型合并与分摊了Pareto前沿上的多个模型，以反映各种权衡的结果。

    Jun, 2024

  • 多目标优化：通过多个LLM的潜力释放形态时间

    介绍了一种通过黑盒多目标优化算法进行大型语言模型合并的新方法，通过自动化配置搜索的过程，使用多个多样化任务的性能估计作为优化目标，以消除不同源模型之间的参数冲突，同时不丢失重要的增量参数，提供了模型合并技术的重要进展，为将多个模型集成为统一的高性能模型提供了强大而易于使用的解决方案。

    Jun, 2024

  • PLeaS - 模型合并的排列和最小二乘

    提出了PLeaS算法，可以合并不同基础模型的机器学习系统，通过最大化对齐和最小化特征近似误差来生成所需大小的合并模型，并实现比最先进的合并方法更好的性能。

    Jul, 2024

  • Pareto低秩适配器：具有偏好的高效多任务学习

    通过引入PaLoRA，我们提出了一种参数高效的方法，利用任务特定的低秩适配器不断参数化凸包，实现了Pareto前沿的连续参数化。实验证明，PaLoRA在各种数据集上优于MTL和PFL基线方法，能够扩展到大型网络，并在场景理解基准测试中与竞争PFL基线相比，内存开销降低了23.8-31.7倍。

    Jul, 2024

  • 大规模语言模型及其他中的模型合并：方法、理论、应用与机会

    本研究针对机器学习领域模型合并技术的系统审视，填补了现有文献的空白。提出了一种新的分类方法，全面讨论现有的模型合并方法，并探讨其在大规模语言模型、多模态大规模语言模型及多个机器学习子领域中的应用。研究的主要发现是模型合并仍面临挑战，并提供了未来研究方向的建议。

    Aug, 2024

  • 大规模语言模型及其他领域中的模型合并：方法、理论、应用与机遇

    本研究针对文献中缺乏系统性综述模型合并技术的问题，提出了一种新的分类方法，以全面探讨现有的模型合并方法。此外，研究还讨论了模型合并技术在大规模语言模型和多模态大规模语言模型等多个机器学习子领域的应用。研究的重要发现是提出的模型合并方法可以为未来的研究方向奠定基础，具有广泛的应用潜力。

    Aug, 2024

  • 大模型中的模型合并：方法、理论、应用与机遇

    本研究针对当前文献中缺乏系统的模型合并方法综述这一问题，提出了一种新的分类方法来全面讨论现有的模型合并技术。研究结果指出，模型合并在大型语言模型和多模态语言模型等多个领域中具有广泛的应用潜力，同时也面临若干挑战，亟需未来研究探索。

    Aug, 2024