BriefGPT.xyz
大模型
Ask
alpha
关键词
trust-region optimization
搜索结果 - 1
ACL
SMART: 面向预训练自然语言模型的强健高效微调技术
本文提出一种基于 Bregman 的 Trust-Region 优化的平滑正则化框架,用于更加有效地对预训练语言模型进行微调,避免过拟合和知识遗忘,通过实验表明在多项 NLP benchmarks 上达到了最新的性能水平。
PDF
5 years ago
Prev
Next