Sep, 2020

语言模型的批判性思维

TL;DR本文提出了一种针对神经自回归语言模型的批判性思维课程的初步探索,为此我们介绍了一种综合语料库,并生成人工辩论文本进行训练和评估。结果显示,在核心辩论中进行预训练能够显著提高语言模型的推理能力。本文中介绍的人工辩论文本是构建 “语言模型的批判性思维课程” 的一个有前途的起点。