Recon: 从根节点减少多任务学习中的冲突梯度

ICLRFeb, 2023

Recon: 从根节点减少多任务学习中的冲突梯度

Recon: Reducing Conflicting Gradients from the Root for Multi-Task Learning

Guangyuan Shi, Qimai Li, Wenlong Zhang, Jiaxin Chen, Xiao-Ming Wu

TL;DR本文研究了多任务学习过程中由于梯度冲突导致的性能下降问题，提出了一种新的方法，在源头处减少了梯度冲突，并将高冲突得分的共享网络层替换为任务特定层，最终实现了更好的性能表现。

Abstract

A fundamental challenge for multi-task learning is that different tasks may conflict with each other when they are solved jointly, and a cause of this phenomenon is conflicting gradients during optimization. Rece

multi-task learning conflicting gradients shared network layer task-specific layers performance improvement

发现论文，激发创造

多任务学习的梯度手术

本文介绍一种简单但通用的方法，通过投影任务的梯度到任何具有冲突梯度的其他任务的梯度的法线平面上，解决了多任务学习中的梯度干扰问题。在多项测试中，该方法显著提高了效率和性能，而且适用于不同的模型架构。

Jan, 2020

使用正交梯度对深度多任务网络进行规范化

本文提出了一种新的梯度正则化方法，旨在通过强制近似正交梯度来减少任务干扰，评估结果表明该方法在多任务学习中取得了竞争性结果。

Dec, 2019

多任务学习的冲突回避梯度下降

本篇文章提出了 Conflict-Averse Gradient descent (CAGrad) 算法，用于优化多任务学习。CAGrad 算法可以自动平衡各项指标的目标，同时还保证可以收敛到平均损失的最小值，并在多任务学习和强化学习任务中取得了优秀的性能。

Oct, 2021

多输出深度神经网络中学习任务优先的推理路径以解决梯度冲突

本文提出一种名为 DR-MGF 的梯度解决算法，通过学习任务优先推理路线来实现多输出深度神经网络中的梯度解决，通过设计可学习的任务特定重要性变量，可以降低任务之间的干扰，从而提高模型预测准确度和收敛速度。

May, 2023

通过梯度手术实现领域泛化

通过使用梯度手术来缓解多域数据训练时出现的梯度冲突，进而提高深度学习模型在域偏移场景下的泛化能力。在三个多域数据集上的图像分类任务中验证了所提出的梯度一致性策略的价值。

Aug, 2021

利用收敛行为平衡多任务学习中的矛盾任务

采用多目标优化的方法，考虑梯度的时间行为，创建一个动态偏差，利用多任务学习的相关性来提高性能和泛化性能，并确保所有任务达到良好的泛化性能。

Apr, 2022

多任务优化中任务优先级的量化

通过连接的强度，基于多任务学习提出了一种基于连接强度的优化方法，包括任务优先级的学习和梯度修改两个阶段，从而在多个任务中找到新的帕累托最优解，大大提升了多任务性能。

Jun, 2024

分层优化：通过梯度分解进行持续学习

通过梯度分解的方式，实现一个新的连续学习方法，在保留之前任务特定知识的同时，促进共同知识整合，避免了梯度大小变化的影响并实现了当前领域最佳结果。

May, 2021

多任务学习的分支学习

本论文提出了一种自动的多任务学习算法，通过提出一种树形结构设计空间和将树形分支操作作为 Gumbel-Softmax 采样过程，实现了可微网络分裂与优化，实现了多任务网络的有效设计。

Jun, 2020

从向后错误分析的角度看多任务和持续学习中的隐含偏差

使用反向误差分析为神经网络在多任务学习和持续学习设置中计算隐含的训练偏差，并推导出通过随机梯度下降训练时隐含地最小化的修改后的损失函数，其中包括原始损失、隐含的平直度正则化项与冲突项。这里，冲突项可理论上对收敛和隐含正则化产生不良影响，在多任务学习中，冲突项是一个已知量，用于测量任务之间的梯度对齐性，而在持续学习中，冲突项是深度学习优化中的一个新量，尽管在微分几何中是一个基本工具：任务梯度之间的李括号。

Nov, 2023