word representation learning | BriefGPT

关键词word representation learning

搜索结果 - 6

神经概率先验词嵌入
改进词表示学习，我们提出了一种概率先验，它可以无缝地与词嵌入模型集成。不同于先前的方法，词嵌入被看作是一种概率生成模型，它使我们能够对词表示学习施加先验进行正则化。所提出的先验不仅增强了嵌入向量的表示，还提高了模型的鲁棒性和稳定性。该先验的
PDF10 months ago
语言表示学习的互信息最大化视角
本文介绍了词表示学习的最新方法，通过互信息最大化来统一传统的词嵌入模型和现代上下文嵌入模型。此外，我们提出了一种构建新的自监督任务的框架，并提供了一种简单的自监督目标函数来最大化句子全局表示和 n-gram 之间的互信息。这种方法可以在自然
PDF5 years ago
对于真正低资源语言中形态学任务的子词信息的重要性
本研究探讨了在低资源环境下，子词信息对单词表示学习的有用性以及其在细粒度实体类型、形态标注和命名实体识别等三个典型形态学任务中的应用价值，结果表明，子词信息可以普适地提升单词表示，但其效果受语言类型和任务的影响，同时，训练单词嵌入和基于任务
PDF5 years ago
ACL利用子词信息学习词表示的系统研究
本研究通过对五种语言的三个任务进行大量实验研究，发现在利用子词级别信息进行词表示学习时，不同语言和任务下，分词和组成函数等关键组件的最优配置各异。同时，我们还发现，一些无监督分词方法，如 BPE 和 Morfessor 等，有时能够和甚至超
PDF5 years ago
AAAI利用语料库和语义词典进行联合词表示学习
本文提出一种新的单词表示学习方法，结合语义词典的关系约束以及语料库中两个单词的共现关系，能够显著提高单词表示学习的性能。
PDF9 years ago
无监督跨领域词表示学习
本研究提出了一种无监督方法，学习特定领域的单词表示，以准确捕捉单词语义的领域特定方面，并使用所学习的单词表示进行域适应性处理，以在对多个不同领域对情感分类任务中获得最佳准确性，并显着优于现有基准。
PDF9 years ago