关键词deep graph neural networks
搜索结果 - 10
- 图神经网络中的熵感知消息传递
本文介绍了一种受物理启发的 GNN 模型,用于改善深度图神经网络中的过度平滑问题,该模型与现有的 GNN 架构相集成,引入了一种熵感知的消息传递项,在节点聚合过程中执行熵的梯度上升,从而在嵌入中保留一定程度的熵。我们通过对多个常见数据集进行 - 在图挖掘中引入新的节点预测:使用图神经网络从孤立节点预测所有链接
介绍了一个新的问题 —— 图挖掘和社交网络分析领域的新节点预测。该问题被归类为零样本外图全链接预测,旨在预测与一个之前与图中的节点断开连接、孤立且未被观察到的新节点的所有链接。实验证明,基于深度图神经网络的架构可以学习解决这个具有挑战性的问 - MuSe-GNN:从多模态生物图数据中学习统一的基因表示
在这项研究中,我们通过引入一种名为多模态相似性学习图神经网络的新型模型,结合多模态机器学习和深度图神经网络,从单细胞测序和空间转录组学数据中学习基因表示,以解决在不同生物医学环境中发现具有类似功能的基因的挑战。我们的模型通过为模型训练和基因 - 图神经网络中的排名崩溃导致过度平滑和过度相关
我们的研究揭示了深度图神经网络中的超平滑和特征过相关性的新的理论洞见。我们展示了不变子空间的普遍性,证明了固定的相对行为不受特征变换的影响。在线性场景中,这导致节点表示被低维子空间主导,其渐近收敛速率与特征变换无关,这导致节点表示的秩崩溃, - 深度图神经网络的可逆和不可逆基于括号的动力学
本篇论文介绍了一些基于保结构动力系统的创新图神经网络结构,其中证明了这些结构能够保能量或随深度逐渐产生正的耗散。这一理论框架为可解释的构建提供了可能,并在阐明了可逆性和不可逆性在网络性能中的作用的同时,帮助解释了当前网络架构中的理论离题。
- KDD通过对抗知识蒸馏压缩深度图神经网络
本文提出了一种名为 GraphAKD 的新型对抗知识蒸馏框架,其中包括一个可训练的判别器和一个生成器,用于自适应地检测和降低深度图神经网络中的知识差异,并将其成功地应用于节点级和图级分类任务中,改善了学生 GNN 的性能。
- 训练更深层次图神经网络的技巧:一项综合基准研究
本研究提供了第一个公平、可重复的基准测试,重点研究了训练深度图神经网络中的技巧,并利用该测试在数十个代表性图数据集上进行了全面评估,证明了初始连接、标识映射、分组和批量归一化的有机组合实现了深度 GNN 在大型数据集上的最新成果。
- ICML使用 1000 层图神经网络进行训练
本研究提出了可逆连接、分组卷积、权重绑定和平衡模型以提高图神经网络的内存和参数效率,并发现可逆连接结构与深层神经网络架构相结合,使得训练的过参数化 GNNs 在多个数据集上显著优于现有方法。
- 学习低精度图神经网络
本研究使用 Low Precision Graph NAS (LPGNAS) 方法进行 Deep Graph Neural Networks 的定点化,并通过 8 个不同的数据集分类实现了模型和缓冲区大小的显著降低,同时保持了精度。
- ICMLHaar 图形池化
本文提出一种新的基于小波压缩的图池化技术 —HaarPooling,用于 Deep Graph Neural Networks 中的图分类和回归问题,实现了数据的稀疏表征和结构信息的保留,使 GNNs 在各种图分类和回归问题上达到了最先进的