propensity-corrected loss | BriefGPT

关键词propensity-corrected loss

搜索结果 - 1

CLUE 语义匹配挑战第一名：Erlangshen 预训练语言模型和倾向性校正损失
本篇报告介绍了一个预训练语言模型 “Erlangshen” 及其在 CLUE 语义匹配挑战赛中最高得分的方法，其采用基于整词屏蔽的动态遮蔽策略和倾向性校正损失，在测试集上获得了 72.54 的 F1 分数和 78.90 的准确率。
PDF2 years ago