BriefGPT.xyz
Ask
alpha
关键词
contextual word embedding
搜索结果 - 4
LexSubCon：将词汇资源的知识融入上下文嵌入，用于词汇替换
LexSubCon 是一种端到端的词汇替换框架，结合上下文嵌入模型与结构化词汇资源，在词汇替换任务中取得高精度替换候选词，并通过混合嵌入策略、文档定义相似度和微调的句子相似性模型计算每个替换对句子语义的影响，从而优于先前的最先进方法。
PDF
3 years ago
COLING
跨语言归纳迁移学习用于检测攻击性语言
本文采用跨语言归纳方法基于上下文的词嵌入模型 XLM-RoBERTa 检测跨语言社交媒体中的冒犯性语言，实验结果表明我们的模型在五种语言中表现竞争力，并在零 - shot 学习环境下显示出可扩展性。
PDF
4 years ago
ACL
利用上下文分隔符在在线话语中检测讽刺
本文使用 RoBERTa_large 对 Twitter 和 Reddit 数据集进行讽刺检测，并通过使用三种不同类型的输入来确定上下文在提高性能方面的重要性。我们表明，我们提出的架构在两个数据集中都具有竞争力，并且在 Reddit 数据集
→
PDF
4 years ago
微调预训练语言模型：权重初始化，数据排序和早期停止
该研究通过对 GLUE 基准测试中的四个数据集进行 BERT 的微调，发现同样参数下，不同的随机种子会导致非常不同的结果表现，并且在权重初始化和训练数据排序的两个方面探究其对结果的影响。此外，该研究对微调方法的实现提出了最佳实践，并公开其所
→
PDF
4 years ago
Prev
Next