Jul, 2024

Pareto低秩适配器：具有偏好的高效多任务学习

HTML
PDF
TL;DR通过引入PaLoRA，我们提出了一种参数高效的方法，利用任务特定的低秩适配器不断参数化凸包，实现了Pareto前沿的连续参数化。实验证明，PaLoRA在各种数据集上优于MTL和PFL基线方法，能够扩展到大型网络，并在场景理解基准测试中与竞争PFL基线相比，内存开销降低了23.8-31.7倍。
发现论文，激发创造
  • 多任务学习中高效的连续 Pareto 探索

    提出了一种新的、高效的方法，可以生成局部连续的Pareto集和Pareto fronts，并将其应用于现代机器学习问题中。通过提出基于样本的稀疏线性系统，将多目标优化的理论结果扩展到现代机器学习问题中，并实现了局部Pareto集的分析。与现有算法相比，通过在各种多任务分类和回归问题上的应用，证明了我们的算法在平衡权衡、有效地找到更多的不同权衡解以及迎合百万级参数任务的能力。

    Jun, 2020

  • 使用超网络学习 Pareto 前沿

    该研究采用Pareto HyperNetworks（PHNs）实现了Pareto-Front Learning（PFL），它通过一个超网络同时学习并输出Pareto前沿，并且相比于训练多个模型，该方法具有更高的运行时效率，并可以根据运行时的偏好选择特定模型。

    Oct, 2020

  • 跨越多任务学习和元学习: 迈向高效训练和有效适应

    本论文研究了多任务学习（MTL）与基于梯度的元学习（GBML）之间的关系，通过理论和实证研究证明了它们在优化公式和学习到的预测函数上的相似性，并通过样例展示了MTL作为一阶方法可以代替计算代价高的二阶方法——GBML，在大规模数据集上训练时更加有效。

    Jun, 2021

  • 利用多样本超网络改善Pareto前沿学习

    提出 PHN-HVI 框架，利用超网络从多样化的权衡偏好生成多个解并最大化这些解定义的超体积指标以提高 Pareto 前沿的质量，在多个 MOO 机器学习任务上实验结果表明，与基线方法相比，该框架显著提高了产生权衡 Pareto 前沿的性能。

    Dec, 2022

  • ScaLearn: 通过学习缩放实现简单且高效率的任务迁移

    通过简单的扩展使源任务的输出表示线性缩放，我们的研究提出了一种简单而高效的两阶段多任务学习方法ScaLearn，其利用源任务的知识只学习了一小部分扩展参数，通过实验证明，在保持强大能力的同时，大大减少了传递参数，展现了简单扩展作为更高效任务传递的潜力。

    Oct, 2023

  • 多任务学习与多任务优化

    本文提出了一种多目标优化的多任务学习方法，通过迭代传递模型参数在优化过程中解决存在冲突的多个任务，并在图像分类、场景理解和多目标回归问题中进行了实验验证，结果显示该方法显著提升了发现满足 Pareto 优化的模型集合的状态，尤其在大规模图像数据集上的实验中，比现有技术取得了近两倍的超体积收敛速度。

    Mar, 2024

  • MTLoRA：一种用于高效多任务学习的低秩适应方法

    本文介绍了一种新的多任务学习（MTL）模型的参数有效训练框架MTLoRA，该框架通过使用任务无关和任务特定的低秩适应模块，在MTL微调中有效地解离参数空间，从而使模型能够熟练处理MTL环境中的任务专业化和交互，并且在PASCAL数据集上的广泛实验表明，MTLoRA在减少可训练参数数量的同时，比对MTL模型进行全面微调在下游任务上具有更高的准确性，同时在准确性和效率方面优于当前最先进的参数有效训练方法。

    Mar, 2024

  • 基于数据驱动的 Pareto 前缘学习的偏好采样

    通过数据驱动的偏好向量采样框架，灵活地调整采样分布参数，从而实现高概率从 Pareto 前沿位置采样偏好向量，并且通过使用混合狄利克雷分布来改进模型在不连通 Pareto 前沿中的性能。

    Apr, 2024

  • MAP: 低计算模型合并与经摊销帕累托前沿的二次近似

    通过使用近似评估度量的二次模型，模型合并与分摊了Pareto前沿上的多个模型，以反映各种权衡的结果。

    Jun, 2024

  • 稀疏高秩适配器

    本文提出了基于稀疏高秩适配器 (SHiRA) 的新范式，通过直接调整基模型权重的 1-2% 来训练高度稀疏的适配器，以在融合模式下实现无推理开销、快速切换和显著降低概念损失的效果。对LVMs和LLMs的广泛实验表明，仅微调基模型的一小部分参数对许多任务已经足够，并且可以同时实现快速切换和多适配器融合。

    Jun, 2024