ACLJun, 2021

机器阅读理解模型为何学习捷径?

TL;DR本文研究了机器阅读理解 (MRC) 模型的学习过程,发现在训练数据中存在大量的提供快捷解决方案的问题,并且 MRC 模型倾向于优先学习快捷问题,而后期训练中高比例的快捷问题会阻碍模型深入探索复杂的推理技能。