EMNLPSep, 2021
用记忆和知识增强的语言模型推断长篇故事的关键性
Memory and Knowledge Augmented Language Models for Inferring Salience in Long-Form Stories
David Wilmot, Frank Keller
TL;DR本研究利用 Barthes Cardinal Functions 和 surprise 和理论为基础的无监督方法，将其应用于长篇叙事形式中，改进了标准 transformer 语言模型，通过引入 Retrieval Augmented Generation 的外部知识库和添加记忆机制来提高该语言模型在长篇作品中的性能，使用来自 Shmoop 语料库的章节摘要来推导显著性标注的新方法，针对这些数据进行的评估证明，与非知识库和记忆增强语言模型相比，我们的显著性检测模型提高了性能，这两者对于此改善至关重要。