多任务学习的冲突回避梯度下降

Oct, 2021

Conflict-Averse Gradient Descent for Multi-task Learning

Bo Liu, Xingchao Liu, Xiaojie Jin, Peter Stone, Qiang Liu

TL;DR本篇文章提出了 Conflict-Averse Gradient descent (CAGrad) 算法，用于优化多任务学习。CAGrad 算法可以自动平衡各项指标的目标，同时还保证可以收敛到平均损失的最小值，并在多任务学习和强化学习任务中取得了优秀的性能。

Abstract

The goal of multi-task learning is to enable more efficient learning than single task learning by sharing model structures for a diverse set of tasks. A standard multi-task learning objective is to minimize the a

multi-task learning gradient descent conflicting gradients optimization supervised learning

发现论文，激发创造

利用收敛行为平衡多任务学习中的矛盾任务

采用多目标优化的方法，考虑梯度的时间行为，创建一个动态偏差，利用多任务学习的相关性来提高性能和泛化性能，并确保所有任务达到良好的泛化性能。

Apr, 2022

多任务学习的多目标优化

本论文将多任务学习作为多目标优化来解决，并提出了一种基于梯度下降优化算法的上限边界，证明了在现实情况下优化这个上限边界将得到帕累托最优解，在多任务深度学习问题上应用我们的方法表现出比最近的多任务学习公式或每项任务训练的模型更高的性能。

Oct, 2018

雅可比下降多目标优化

我们提出了一种新的多目标优化算法，基于 Jacobian 下降方法，并设计了一个特定的汇集器来确保更新向量不与任何目标冲突，并且与每个梯度的范数成比例；我们在简单的图像分类任务中引入了实例风险最小化学习方法，实验展示了该方法相比于平均损失的直接最小化的有希望的结果，并且验证了我们理论上的发现，最后，为了提高 Jacobian 下降的速度，我们提供了更高效实现的路径。

Jun, 2024

多目标学习中的三方交易：优化、泛化和冲突避免

本文研究了多目标学习（MOL）的动态权重算法如 MGDA 及其变种，并通过新的基于随机采样的 MGDA 算法，发现 MGDA 中的冲突避免更新方向会阻碍动态权重算法实现最优的 O（1/√n）种群风险，并展示了动态权重在优化、泛化和冲突避免三方面权衡的独特性。

May, 2023

多任务学习的梯度手术

本文介绍一种简单但通用的方法，通过投影任务的梯度到任何具有冲突梯度的其他任务的梯度的法线平面上，解决了多任务学习中的梯度干扰问题。在多项测试中，该方法显著提高了效率和性能，而且适用于不同的模型架构。

Jan, 2020

多任务学习与多任务优化

本文提出了一种多目标优化的多任务学习方法，通过迭代传递模型参数在优化过程中解决存在冲突的多个任务，并在图像分类、场景理解和多目标回归问题中进行了实验验证，结果显示该方法显著提升了发现满足 Pareto 优化的模型集合的状态，尤其在大规模图像数据集上的实验中，比现有技术取得了近两倍的超体积收敛速度。

Mar, 2024

Recon: 从根节点减少多任务学习中的冲突梯度

本文研究了多任务学习过程中由于梯度冲突导致的性能下降问题，提出了一种新的方法，在源头处减少了梯度冲突，并将高冲突得分的共享网络层替换为任务特定层，最终实现了更好的性能表现。

Feb, 2023

弹性多梯度下降算法用于并行连续学习

动态多目标优化问题中，在平衡新旧任务训练和减少负面影响方面，提出了一种名为弹性多梯度下降（EMGD）的方法，通过引入任务特定的弹性因子来调整下降方向，以最小化对先前学习任务的负面影响，并借助梯度计算引导的内存编辑机制来更新储存的数据点，从而降低之前任务对 Pareto 下降方向的干扰。

Jan, 2024

多任务学习中梯度聚合的贝叶斯不确定性

使用贝叶斯推断的梯度聚合方法能够考虑梯度不确定性，提高多任务学习的性能表现。

Feb, 2024

多目标推荐系统的多梯度下降

本文提出了用随机梯度下降的方法（MGDRec）来解决推荐系统中多目标优化问题，通过梯度规范化将不同度量指标作为一个整体优化，确保同时提升多个利益相关者的目标，避免了全梯度计算的缺点并且在提高准确率的同时也提升了产品的质量。

Dec, 2019