BriefGPT.xyz
大模型
Ask
alpha
关键词
retromae
搜索结果 - 1
EMNLP
通过遮蔽自编码器预训练针对检索的语言模型 RetroMAE
本研究提出一种新的基于 Masked Auto-Encoder 的检索导向的预训练模型 RetroMAE,通过三个关键设计,包括污染输入、不对称模型结构和不对称的遮盖比率,取得了令人满意的实验结果,大幅提高了在 BEIR 和 MS MARC
→
PDF
2 years ago
Prev
Next