向量空间中的层级:定向词和图嵌入
本论文提出了一种基于概率密度的单词嵌入模型 —— 密度顺序嵌入模型。该模型通过实现简单而有效的损失函数和距离度量以及基于图的方案选择负样本,学习到分层的概率密度表示。实验结果表明,此方法在 WordNet 层级关系预测任务和 HyperLex 语义蕴涵数据集上表现出了最先进的性能,并保留了丰富而可解释的密度表示。
Apr, 2018
介绍了一种名为 HyperVec 的神经模型,其可以学习分层嵌入,以检测和定向上位词,可以捕捉上位词 - 下位词分布层次结构,以及可以用于跨语言映射。实验结果表明,HyperVec 在上位词检测和定向,以及预测分级词汇蕴涵方面均优于现有的无监督方法和嵌入模型。
Jul, 2017
本文介绍了一种用于学习单词表示的无监督图形表示方法,通过使用最短路径距离,将每个单词视为带权图中的节点,并表明比传统的向量表示方法更好地表现出单词的相似性和类比任务。
Oct, 2020
该研究提出了一种新的知识图谱嵌入模型 ——HAKE,该模型采用极坐标系将实体映射到不同的层次,以模拟语义层次结构,从而在链接预测任务上实现了显著的性能提升。
Nov, 2019
本文提出了一种基于 delta-hyperbolicity 的方法,在超球面的笛卡尔积空间中嵌入词嵌入向量,在此基础上利用 Glove 算法学习无监督的词嵌入,并发现了这种嵌入方式相对于高斯词嵌入的几何意义,同时通过这种新类型几何的平行传送得出新的解决 word analogy 的方法,在各种任务上表现出色。
Oct, 2018
本文提出一种方法学习语言的词汇,并使用图嵌入技术和跨语言向量空间映射方法结合本体源和语料库来提高现有词向量的覆盖范围以及加强其词汇知识。所提出的方法在 Rare Word Similarity dataset 上表现出 10% 的性能提升。
Jul, 2017
在机器学习中,通过保留相关网络属性的低维嵌入学习图表示是一类重要的问题。本文提出了一种嵌入有向无环图的新方法,使用证明能够更好地模拟树状结构的双曲空间,并使用一组嵌套的测地凸锥来定义分层关系,并证明这些蕴含锥体在欧几里得和双曲空间中均具有一种优化的形式,而且它们可以规范地定义嵌入学习过程。实验显示,我们的方法在表示能力和泛化方面都比最近的强有力的基线有显着的改进。
Apr, 2018