Apr, 2024
基于源感知训练的语言模型启用知识归属
Source-Aware Training Enables Knowledge Attribution in Language Models
Muhammad Khalifa, David Wadden, Emma Strubell, Honglak Lee, Lu Wang...
TL;DR大型语言模型通过源引用学习具有丰富知识,研究基于内在源引用的问题能够增强模型的透明度、可解释性和可验证性,作者通过源感知训练实现了这一目标,实验证明该方法可以保持模型质量,同时强调数据增强在实现源引用方面的重要性。