May, 2023
具有挑战性的解码器有助于稠密通道检索的掩码自编码器预训练
Challenging Decoder helps in Masked Auto-Encoder Pre-training for Dense Passage Retrieval
Zehan Li, Yanzhao Zhang, Dingkun Long, Pengjun Xie
TL;DR该研究提出了一种基于点互信息的令牌重要性感知遮蔽策略,以加强解码器的挑战,进而构建编码器的表示能力,并在大规模监督通道检索数据集和领域外零 - shot 检索基准上验证了其有效性和鲁棒性。