超几何空间中图的神经嵌入
通过将 M"obius gyrovector 空间的形式主义与 Poincarе模型的 Riemannian 几何相结合,我们提出了重要深度学习工具的超几何版本:多项式逻辑回归、前馈和循环神经网络。这样可以在超几何空间中嵌入序列数据并进行分类。实验证明,即使超几何优化工具受限,超几何句子嵌入在文本蕴含和噪声前缀识别任务中的表现要么优于,要么与欧几里得变体相当。
May, 2018
介绍了基于超伽马空间表示的图形学习的前沿技术,并重点介绍了超伽马浅层模型和超伽马神经网络技术以及其组件变体的技术细节,同时讨论了超伽马几何图形表示学习的进阶主题。
Nov, 2022
本研究使用新的超几何嵌入方法学习文本数据中的词和句的嵌入,这些嵌入似乎编码了层次结构的某些直觉概念,然而,由于隐含的连续层次结构,这种模型更难以研究其学习层次结构的内部机制。
Jun, 2018
本文对当前超伽马线图神经网络的技术细节进行了全面的回顾,并将它们统一到一个通用框架中,并总结了每个组件的变体和相关应用,并提出了一些挑战,可能为进一步发展超伽马线空间的图学习成果提供指导。
Feb, 2022
本文提出了第一个归纳式的超几何图卷积神经网络 (HGCN),它利用了超几何空间的表达能力和嵌入高度曲率的特点来学习分层和无标度图的归纳式节点表示,并说明了如何将欧几里得输入特征转换为具有不同可训练曲率的超几何嵌入。 实验证明,HGCN 学习到的嵌入保留了分层结构,并且与欧几里得模型相比,即使具有非常低的维度嵌入,也能获得更好的性能:在链路预测中,ROC AUC 误差降低最多为 63.1%,在节点分类中,F1 score 提高最多为 47.5%,也改善了 Pubmed 数据集的最新技术水平。
Oct, 2019
本研究探索图形拓扑的离散曲率和嵌入空间的连续全局曲率的属性,提出了一种基于超边曲率感知的图神经网络(HCGNN),该网络利用离散曲率引导周围消息传递,并同时自适应调整连续曲率。在节点分类和链接预测任务上进行了广泛的实验,结果表明所提出的方法在高超曲线图数据和低超曲线图数据中均优于各种竞争模型。案例研究进一步证明了离散曲率在发现本地集群和缓解超曲线几何引起的畸变方面的有效性。
Dec, 2022
本文介绍了一种在超几何空间中学习自由文本词嵌入的算法,并使用基于超几何距离的目标函数在 word2vec 的 skip-gram 负采样架构中进行。实验结果表明在超几何空间低维度中,超几何词嵌入具有潜在优势,但在一些方面和欧几里得词嵌入没有绝对的优势。具体分析了在曲率空间中类比分析任务的些微差别。
Aug, 2018
通过将符号数据嵌入超载空间(或更确切地说是 n 维庞加莱球)来学习符号数据的分层表示的方法,通过实验证明 Poincare 嵌入在具有潜在层次结构的数据上显着优于欧几里得嵌入,无论是在表示能力还是泛化能力方面。
May, 2017
在机器学习中,通过保留相关网络属性的低维嵌入学习图表示是一类重要的问题。本文提出了一种嵌入有向无环图的新方法,使用证明能够更好地模拟树状结构的双曲空间,并使用一组嵌套的测地凸锥来定义分层关系,并证明这些蕴含锥体在欧几里得和双曲空间中均具有一种优化的形式,而且它们可以规范地定义嵌入学习过程。实验显示,我们的方法在表示能力和泛化方面都比最近的强有力的基线有显着的改进。
Apr, 2018