关键词masked token prediction
搜索结果 - 2
- ACL带提示的预训练语言模型用于时间知识图谱补全
本文提出了一种基于预训练语言模型的 TKGC 模型 (PPT),通过将时间戳之间的间隔转换为不同的提示来提取暗示的语义信息以形成连贯的句子,并使用蒙版策略将 TKGC 任务转换为蒙版标记预测任务,有效地将时间知识图中的信息整合到语言模型中, - 多模态掩模自编码器学习可转移表示
本论文提出一种基于 Masked Token 预测的大型多模式模型 (M3AE),能在不引入偏好于数据增强的对比学习目标的情况下,学习出适用于下游任务的可传递表示,并证明了高文本遮盖率下训练能够显著提升模型性能。M3AE 能够在配对和非配对