EMNLPOct, 2022
使用隐藏空间增强和自监督对比适应改进 QA 领域的领域适应
QA Domain Adaptation using Hidden Space Augmentation and Self-Supervised Contrastive Adaptation
Zhenrui Yue, Huimin Zeng, Bernhard Kratzwald, Stefan Feuerriegel, Dong Wang
TL;DR本文提出了一种名为 QADA 的自监督框架，其中引入了一种新颖的数据增强管道，通过隐藏空间增强来丰富 QA 样本，引入多跳同义词和样本增强的令牌嵌入以及自定义注意抽样策略来新开发语境增强的方法，并针对 QA 领域自监督域适应，使用注意力权重建立差异估计的信息特征，帮助 QA 模型在源领域和目标领域之间分离答案并实现泛化。我们的评估显示，QADA 在 QA 领域适应的多个目标数据集上显着提高了比现有技术基线的表现。