BriefGPT.xyz
Ask
alpha
关键词
pmi-masking
搜索结果 - 1
基于 PMI 的相关跨度掩码
通过对点对互信息的概念提出了 PMI-Masking,该结构代替了以往不合理的随机掩码方法,实验结果表明在预训练的效率和下游任务性能上有所提高
PDF
4 years ago
Prev
Next