关系词嵌入
本文介绍了一种新颖的学习方法,用于关系分类的单词嵌入训练,并使用无标注语料库上的词汇关系特定特征预测名词对之间的单词,以将关系特定信息显式地纳入单词嵌入中。通过使用所学习的单词嵌入来构建特征向量,用于关系分类模型。在一个基于语义关系分类任务中,我们的方法表现显著优于基于之前介绍的单词嵌入方法的基准线,并与使用句法信息或手动构造的外部资源的先前最先进的模型相比,表现出了比较良好的结果。
Feb, 2015
通过提取语料库中词汇的共现模式来实现无监督学习,学习不仅代表个体单词的表示,还明确捕捉代表单词间语义关联的词向量表示,并通过联合权重和二元分类器来描述单词间的语义关系,取得了普遍类比检测三个基准数据集中的显著性优势。
May, 2015
提出了一种使用词汇资源的描述和分布式语义语料的相关信息的简单方法,以更好地初始化关系模型的训练,在 WordNet 数据集上表现出了显着的最新性能。
May, 2016
本文研究词嵌入技术中的理想表示问题,发现各种模型包含的信息互相矛盾,通过线性变换来调整相似度排序以提高其结果,同时探讨了内在和外在评估之间的关系。
Sep, 2018
本研究探讨了如何学习文本关系的通用嵌入,通过创建最大的远距离监督数据集并使用全局共现统计来训练嵌入,证明了学习文本关系嵌入的效用,可以促进需要文本关系理解的下游任务。
Jun, 2019
本文提出了一种多重词向量模型,将不同单词之间的关系映射到嵌入空间中,从而实现更好的语义解析和性能提升。实验证明该模型能更好地区分单词之间的不同关系且维持了嵌入向量的有效性。
Jan, 2020
本研究旨在探讨如何从预训练的语言模型中提取出表示两个词之间关系的向量,并通过Fine-tuning使类似关系的词对应的向量相似,实验结果表明,即使在没有任务特定的Fine-tuning的情况下,所得到的关系嵌入在类比和关系分类基准测试中都具有很高的竞争力。
Sep, 2021