ACLJan, 2023

未能回答问题对机器阅读理解模型鲁棒性的影响

TL;DR本文研究了使用 SQuAD 2.0 中不可回答的问题对预先训练的语言模型进行微调,以提高其对抗攻击的鲁棒性。结果表明,在 SQuAD 2.0 上进行微调可以显著提高模型的鲁棒性,并且 SQuAD 2.0 还会影响模型学习到的内容。