EMNLPNov, 2022

预训练语言模型中的科学和创意类比

TL;DR本文研究了大规模预训练语言模型(如 BERT 和 GPT-2)中类比的编码。我们介绍了一个新的类比数据集(SCAN),包含跨不同领域的多个属性和关系结构的系统映射,测试了几种广泛使用的预训练语言模型(LMs)的类比推理能力。然后发现,最先进的 LMs 在这些复杂的类比任务中表现不佳,突出了类比理解仍然存在的挑战。