BriefGPT.xyz
Ask
alpha
关键词
adamix
搜索结果 - 3
AdaMix: 适应混合策略用于参数高效调整的模型
提出 AdaMix,在保持大部分 PLM 权重不变的情况下,通过调整每个 Transformer 层中引入的适应模块的混合来优化下游任务的性能,仅调整 0.1-0.2%的 PLM 参数即可胜过 SOTA 参数高效调整和完整模型调整的 NLU
→
PDF
2 years ago
EMNLP
AdaMix: 参数高效模型调整的自适应混合
本文提出 AdaMix 作为一种通用的参数高效微调方法,通过调整每个 Transformer 层中引入的自适应模块的混合来提高下游自然语言理解和生成任务的性能。这种方法只对 0.1-0.2%的 PLM 参数进行微调,可以超越目前的各种参数高
→
PDF
2 years ago
CVPR
计算机视觉中的混合差分隐私
AdaMix 是一种自适应差分隐私算法,用于使用私有和公共图像数据训练深度神经网络分类器。它采用 few-shot training 和 zero-shot learning 来解决视觉分类中的隐私和准确性之间的权衡问题,并提供强大的理论隐
→
PDF
2 years ago
Prev
Next