task-specific parameters | BriefGPT

关键词task-specific parameters

搜索结果 - 4

基于因子化张量网络的多任务与多领域学习
通过使用因式分解张量网络（FTN）的方法，可以在几个参数增加的情况下，实现与独立单任务 / 领域网络相媲美的准确性。FTN 利用源模型中的冻结骨干网络，并逐步添加任务 / 领域特定的低秩张量因子到共享的冻结网络，从而能够适应大量的目标领域和
PDF9 months ago
超调：大型语言模型的自适应调节方法，无需借助反向传播算法
本文提出了 HyperTuning 方法用于模型适应，可以生成特定任务的参数并在大量多样化语言任务上进行多任务微调。通过在 P3、MetaICL 和 Super-NaturalInstructions 数据集上的表现，证明该方法可以有效地为
PDF2 years ago
EMNLP高效调节的参数即任务嵌入
本文提出了一种利用参数有效调参方法中的任务特定参数作为现成任务嵌入用于中间任务转移的方法，实验结果表明这种方法在中间任务转移预测方面始终优于现有的方法。
PDF2 years ago
IJCAI异构数据感知联邦学习
本研究提出一种新方法来解决联邦学习中的问题，并在本文所述的公开基准数据集（如 Femnist）以及自己收集的数据集（即流量分类）上验证了该方法的有效性，结果表明这种方法在极端情况下具有显著的优势。
PDF4 years ago