Feb, 2024

双核重任：通过语义和拓扑意识增强图稀疏训练

PDF
TL;DR图稀疏训练（GST）提出了一种动态调整数据层稀疏度的方法，通过 Equilibria Sparsification Principle 来实现拓扑和语义信息的平衡，从而产生一个具有最大拓扑完整性且没有性能下降的稀疏图。
graph neural networkscomputational challengesgraph sparse trainingsparsityspectral properties
发现论文，激发创造
  • 通过图的混合进行图稀疏化

    使用混合图 (MoG) 技术对图神经网络进行图稀疏化处理，针对每个节点的特定环境选择合适的稀疏方案，并在 Grassmann 流形上生成最优稀疏图，从而实现更高的稀疏度水平、GNN 推理速度的提升，并改善 “顶级学生” GNN 在性能上的表现。

    May, 2024

  • 稀疏图注意力网络

    该论文提出了一种基于 L0 正则化的 Sparse Graph Attention Networks，可以对大规模、复杂的图进行特征聚合，鲁棒性与有效性更高，达到与原始图相同或更高的预测性能；同时，其使用结果可视化和量化表达，让人更加容易理解。

    Dec, 2019

  • 图神经网络稀疏训练的全面图剪枝

    本文提出了一种基于渐进式图剪枝 (CGP) 的图神经网络 (GNN) 压缩框架，综合剪枝了图结构、节点特征和模型参数，同时引入重生过程以重新建立重要的连接，实验结果表明 CGP 策略在提高训练和推断效率的同时保证准确性超过了现有方法。

    Jul, 2022

  • 联合边模型稀疏学习对于图神经网络的可证明效率

    本文从样本复杂度和收敛速率的角度，首次提供了从联合边缘 - 模型稀疏学习的理论特性，证明了重要节点抽样和低幅度神经元剪枝可以减少样本复杂度，提高收敛速度，而不影响测试精度。

    Feb, 2023

  • 可解释性脑图稀疏化：图神经网络的更佳实践和有效设计

    本文介绍了一种新的框架，使用图神经网络 (GNNs) 中的有效设计来稀疏化脑图，以优化脑图分类任务。该新模型称作 “可解释的图稀疏化”（IGS），通过减少脑图的边数（最多 55.0%），提高了最多 5.1% 的分类性能，并提出了新的脑科学解释。

    Jun, 2023

  • Flip Initial Features: 一种基于稀疏特征的神经网络半监督节点分类的通用方法

    该论文提出一种简单而新颖的策略，通过同时翻转初始特征和超平面来创造额外的空间，以有效缓解图神经网络中的过拟合问题，并在真实世界数据集上进行了广泛实验，证明该技术将节点分类准确率提高了高达 40.2％。

    Nov, 2022

  • 探索图转换中的稀疏性

    研究论文简介：为解决图形变换器（GTs）的高计算成本问题，在现有 GT 模型特征的基础上探索了图形变换器稀疏化的可行性，并提出了一个能够减少 GTs 计算复杂度的综合框架（GTSP），通过实验验证该框架能有效降低计算成本，同时在精度上只有微弱的降低或甚至有所提升。

    Dec, 2023

  • 基于课程图稀疏化的轻量化图神经网络搜索

    设计一种通过有价值的图数据识别重要子架构的联合图数据和架构机制，以搜索轻量级图神经网络 (GNNs) 的最佳架构，提出一种带有图稀疏化和网络修剪的轻量级图神经体系结构搜索 (GASSIP) 方法，并通过两个不可分割的模块优化这些模块来高效搜索最佳轻量级架构。

    Jun, 2024

  • 增强稀疏图中图神经网络对拓扑变动的鲁棒性

    图神经网络（GNN）在节点分类中得到广泛应用，但最近的研究表明 GNN 对拓扑扰动如对抗攻击和边缘中断很容易受到攻击，为了克服这些问题，我们提出了一种新的标签推断框架 TraTopo，它结合了基于拓扑的标签传播、贝叶斯标签转换和随机游走的链接分析，并在稀疏图上超过了现有的 GCN 模型，在节点分类中表现出更高的准确性。

    Jun, 2024

  • 面向任务的大型知识图谱上的 GNNs 训练用于准确和高效建模

    KG-TOSA 是一种自动化任务导向下的异构图神经网络训练的子图提取方法，能够显著减少训练时间和内存使用，提高模型性能。

    Mar, 2024