ACLMay, 2023
通过慢速和快速调整以提高跨语言迁移的性能
Analyzing and Reducing the Performance Gap in Cross-Lingual Transfer with Fine-tuning Slow and Fast
Yiduo Guo, Yaobo Liang, Dongyan Zhao, Bing Liu, Duan Nan
TL;DR本文分析了多语言预训练语言模型的微调过程,找出性能差距何时发生以及哪些网络权重对整体性能影响最大,并提出一种名为 Fine-tuning slow and fast 的方法来解决这些问题,实验结果表明该方法优于基准方法。