Jun, 2022

QAGAN:学习领域不变的语言特征的对抗方法

TL;DR探索对抗训练方法以学习领域不变特征,从而使语言模型可以对域外数据集进行良好的推广。我们还审查了各种其他方法来提高我们的模型性能,包括通过改写句子实现数据增强、将回答跨度预测的结尾词映射到开始词上以及精心设计的退火函数。我们的初步结果表明,在结合这些方法的情况下,与基线相比,在域外验证数据集上我们能够实现 EM 分数 15.2% 的提高和 F1 分数 5.6% 的提高。