本文介绍了一种基于 Poincaré ball 模型的新型超似曲空间神经网络,该网络构建了多项式逻辑回归、全连接层、卷积层和注意机制,更高效地捕捉数据的分层结构,并在参数效率、稳定性和表现方面优于现有的超似曲组件及欧几里德同类模型。
Jun, 2020
本文对当前超伽马线图神经网络的技术细节进行了全面的回顾,并将它们统一到一个通用框架中,并总结了每个组件的变体和相关应用,并提出了一些挑战,可能为进一步发展超伽马线空间的图学习成果提供指导。
Feb, 2022
通过将 M"obius gyrovector 空间的形式主义与 Poincarе模型的 Riemannian 几何相结合,我们提出了重要深度学习工具的超几何版本:多项式逻辑回归、前馈和循环神经网络。这样可以在超几何空间中嵌入序列数据并进行分类。实验证明,即使超几何优化工具受限,超几何句子嵌入在文本蕴含和噪声前缀识别任务中的表现要么优于,要么与欧几里得变体相当。
May, 2018
本文首次尝试在双曲空间中使用带有注意机制的图神经网络,采用 gyrovector 空间将图中特征进行转换,并提出了基于双曲近似的注意机制来聚合特征。通过实验,与其他最先进的基准方法进行比较,证明了我们提出的超曲线图注意力网络模型的性能。
Dec, 2019
本文介绍了超半径神经网络的模型以及各个组成部分,探究了其在超几何空间的深度学习方法、机器学习任务上的应用,提出了未来研究方向。
Jan, 2021
提出了利用超几何空间和元路径实例学习异构图的向量表示的超几何异构图注意力网络(HHGAT),在三个真实的异构图数据集上的实验证明 HHGAT 在节点分类和聚类任务中优于现有的异构图嵌入模型。
Apr, 2024
本文提出了一种基于洛仑兹模型的完全双曲框架,通过调整洛仑兹变换实现神经网络的基本操作,从而解决了现有双曲网络在欧几里德子空间进行操作的问题并证明了现有双曲网络的能力限制,实验结果展示了该方法在 NLP 任务中表现更优。
May, 2021
该研究的主要目的是学习图结构数据,提出了一种基于黎曼流形的新型图神经网络架构,并开发了一种可扩展的算法来模拟图的结构特性,并比较欧几里得和双曲几何。在实验中,我们证明了双曲 GNNs 在各种基准数据集上可以带来实质性的改进。
Oct, 2019
本文提出了第一个归纳式的超几何图卷积神经网络 (HGCN),它利用了超几何空间的表达能力和嵌入高度曲率的特点来学习分层和无标度图的归纳式节点表示,并说明了如何将欧几里得输入特征转换为具有不同可训练曲率的超几何嵌入。 实验证明,HGCN 学习到的嵌入保留了分层结构,并且与欧几里得模型相比,即使具有非常低的维度嵌入,也能获得更好的性能:在链路预测中,ROC AUC 误差降低最多为 63.1%,在节点分类中,F1 score 提高最多为 47.5%,也改善了 Pubmed 数据集的最新技术水平。
介绍了基于超伽马空间表示的图形学习的前沿技术,并重点介绍了超伽马浅层模型和超伽马神经网络技术以及其组件变体的技术细节,同时讨论了超伽马几何图形表示学习的进阶主题。
Nov, 2022