Mar, 2022
Adaptor: 面向目标的自适应框架，适用于语言模型
Adapt$\mathcal{O}$r: Objective-Centric Adaptation Framework for Language
Models
TL;DR本文介绍了Adaptor库，将传统的预训练+微调方法转化为面向目标的方法，并调查了多任务训练、自定义目标开发、动态训练课程或领域适应等方面可以从增强目标中心实验中受益的研究方向，Adaptor旨在实现这些研究方向的易复现性。最后，我们展示了Adaptor在选定的无监督领域适应场景中的实际适用性。