BriefGPT.xyz
Ask
alpha
关键词
res-tuning
搜索结果 - 2
Res-Attn: 一种带有轻量级注意力机制的增强型 Res-Tuning 方法
基于 Res-Tuning 框架,本研究提出了一种高级高效的调谐器 Res-Attn,利用低秩注意力机制对查询、键和值进行投影,通过训练这个轻量级的注意力模块,实现了对新场景的自适应,并在一系列判别性和生成性任务中展示了与现有方法相比的优越
→
PDF
6 months ago
Res-Tuning:一种通过与主干结构解耦的灵活高效调优范式
参数高效调优的新范式 Res-Tuning 将调优器与网络解耦,从而实现多样调优策略的灵活组合,并通过实验证明其在效能和效率方面优于现有替代方案。
PDF
8 months ago
Prev
Next