Mar, 2023

密集稀疏检索:使用稀疏语言模型进行推理高效密集检索

TL;DR研究使用稀疏语言模型替代矢量检索系统来提高推理效率,实验结果表明使用MSMARCO数据集,精确度几乎没下降,推理速度最多提高了4.3倍。