关键词pre-trained word representations
搜索结果 - 3
- 利用预训练的词向量增强可解释的语义子句
本文提出了一种新的使用预训练词向量表示的 Tsetlin 机器方法,通过从预训练的词向量中提取语义相关的单词作为输入特征来增强 TM 的性能和可解释性。该方法的精度显著高于以前基于 BOW 的 TM,达到了 DNN-based 模型的水平。
- ACL自注意力编码器进行的组成成分句法分析
通过将 LSTM 编码器替换为自注意力机制,能够提高最先进的判别型成分解析器的性能,特别是当用预训练的字词表示时,而且这种方法在 SPMRL 数据集的大部分语言上的性能优于以前的最佳结果。
- 分布式词表示的预训练技术进展
本文着重讨论了如何通过使用已知技巧来训练高质量的单词向量表示,以提高自然语言处理任务的表现,并提供了一组公开可用的预训练模型,能在多项任务上远远优于现有技术。