Apr, 2022
对话响应全秩检索的稀疏和密集方法
Sparse and Dense Approaches for the Full-rank Retrieval of Responses for Dialogues
Gustavo Penha, Claudia Hauff
TL;DR本文针对完整回应的检索任务，提出了对话背景和回应扩充技术的检索方法，探析了稀疏检索和零样本以及微调密集检索方法，并发现通过练习 “学习到的回应扩充技术” 是稀疏检索的一个坚实基础。我们最终发现，整体表现最好的方法是密集的检索中级训练，即是模型先预训练语言模型，再根据目标对话数据进行微调，同时我们研究发现，更难的负采样技术导致微调的稠密点检索模型更糟糕。