task interference | BriefGPT

关键词task interference

搜索结果 - 9

HyperLoader: 将基于 Hypernetwork 的 LoRA 和适配器层集成到多任务 Transformer 中，用于序列标注
我们介绍了 HyperLoader，一种简单的方法，它在多任务设置中结合了不同的参数高效调优方法。通过使用超网络根据任务、Transformer 层以及层内位置生成这些模块的权重，我们的模型实现了这一目标。我们的方法通过在生成的权重中封装任
PDF3 days ago
基于任务自适应路由的一体化医学图像恢复
提出了一种任务自适应路由策略的全能医疗图像恢复网络，实现了状态 - of-the-art 性能在 MRI 超分辨率、CT 降噪和 PET 合成等三个医疗图像恢复任务中。
PDFa month ago
InterroGate: 学习共享、专精和修剪多任务学习的表示
本研究提出了一种名为 InterroGate 的新型多任务学习架构，用于减轻任务干扰并优化推理计算效率。通过可学习的门控机制自动平衡共享和任务特定的表示，同时保持所有任务的性能。在广泛的实证评估中，我们使用卷积和基于 transformer
PDF4 months ago
复杂视觉系统上的多任务学习鲁棒性分析
多任务学习中的问题和挑战，包括优化算法的评估，梯度级别的比较，梯度角度和相对梯度范数的局限性，以及基于特征提取器的潜在空间和特征解缠的训练监测结果。
PDF5 months ago
多任务强化学习的预测任务特定层
通过引入新的架构 Projected Task-Specific Layers (PTSL)，该论文通过使用特定任务层进行共享和可变任务信息的密集修正，从而成功地在多任务强化学习中解决了任务间的负面干扰，并在 Meta-World 的 MT
PDF10 months ago
CVPR通过非可学习的基元进行显式任务路由来缓解多任务学习中的任务干扰
ETR-NLP 通过非可学习的原始提取多样的任务无关特征并将其重新组合到一个共享分支和各个任务的显式分支中，以减少任务干扰，实验证明 ETR-NLP 在所有数据集上用更少的可学习参数和类似的操作数（FLOPs）显著优于最先进的基线模型。
PDFa year ago
ECCV去除任务干扰的增量多任务学习的卷积重参数化
该研究提出了一种新的重新参数化方法，通过将标准神经网络体系结构的卷积重新参数化成一个不可训练的共享部分（滤波器银行）和任务特定部分（调制器），从而使模型能够学习新任务而不会对现有任务的性能产生负面影响。该方法在 PASCAL-Context
PDF4 years ago
使用正交梯度对深度多任务网络进行规范化
本文提出了一种新的梯度正则化方法，旨在通过强制近似正交梯度来减少任务干扰，评估结果表明该方法在多任务学习中取得了竞争性结果。
PDF5 years ago
CVPR多任务的专注单任务处理
通过单任务多任务方法，使用任务依赖的特征适应或任务关注来减少神经网络中的任务干扰，并通过敌对训练使任务梯度具有相同的统计学特性，从而消除任务特定梯度对神经网络的影响，实现了在多任务场景下参数规模和性能的平衡。
PDF5 years ago