contextualized word embeddings | BriefGPT

关键词contextualized word embeddings

搜索结果 - 29

EMNLP转移和图形依存关系分析中的深度语境化词嵌入－重访两种解析器的故事
通过对十三种语言的依存句法分析实验进行误差分析，本文表明基于转移和基于图的依存句法分析器具有互补的优缺点，深层上下文词嵌入有利于转移依存句法分析器更好地利用其准确的局部决策，使得这两种方法在精度和误差概要方面几乎等效。
PDF5 years ago
关注值得吗？关注层用于论点单元分割的比较评估
本研究比较了注意力机制和一种当前最先进的双向长短时记忆网络结合的注意力层，在自然语言处理方面并未表现出更好的效果，而句子级语境化词嵌入也并未表现出比基线得分更高的改进。
PDF5 years ago
ACL使用语境化单词嵌入对论点进行分类和聚类
本研究使用 ELMo 和 BERT 作为最新的上下文化词嵌入方法，在开放领域的论据搜索中进行了实验。我们首次展示了如何利用上下文化词嵌入的能力，对主题相关的论据进行分类和聚类，并在多个数据集和任务中取得了令人印象深刻的结果。
PDF5 years ago
ACL实体为中心的情感语境分析
通过使用上下文化单词嵌入，我们可以捕捉人物形象中的情感维度，并比较男女形象的差异。虽然这些单词嵌入编码了有意义的情感信息，但受其训练数据的影响严重限制了它们的实用性。
PDF5 years ago
ACL使用语境化的嵌入向开放领域对话系统提供更好的自动评估
本文探讨使用语境化词向量来计算更为准确的相关性评分，从而得出更好的评估指标，相较于仅训练静态嵌入的 RUBER 指标，新的指标表现更佳。
PDF5 years ago
评估上下文词嵌入中的潜在性别偏见
在研究中，我们发现标准词嵌入即使经过去偏差处理，其性别偏差仍然很高，而上下文词嵌入则能够减少这种性别偏差，从而为自然语言处理应用提供更公正的结果。
PDF5 years ago
EMNLP无监督领域自适应的上下文嵌入序列标注
本文提出了一种基于掩码语言模型，在目标领域中调整上下文嵌入的方法，从而实现了序列标注的无人监督适应，获得了重要的改进，特别是在词汇表外的单词上。
PDF5 years ago
ACL从语言模型中探测生物医学嵌入
本文研究使用预训练的语言模型作为固定的特征提取器，并限制下游任务模型没有额外的序列建模层，探索在域内训练后的上下文词嵌入中携带的附加信息。结果发现，BioELMo 在编码实体类型和关系信息方面优于 BioBERT。
PDF5 years ago
MM深度上下文化词向量、集成和树库连接：迈向更好的 UD 句法分析
本文描述了我们的系统（HIT-SCIR），该系统提交给 CoNLL 2018 共享任务，涉及从原始文本到通用依赖的多语言解析。我们基于斯坦福的获胜系统进行提交和进行了两个有效的扩展：1）将深度上下文化词嵌入到词性标记器和解析器中；2）集合使
PDF6 years ago