GraphPAS: 图神经网络的并行架构搜索

SIGIRDec, 2021

GraphPAS: 图神经网络的并行架构搜索

GraphPAS: Parallel Architecture Search for Graph Neural Networks

Jiamin Chen, Jianliang Gao, Yibo Chen, Oloulade Babatounde Moctard, Tengfei Lyu...

TL;DR本文提出了一种并行的图神经网络架构搜索框架 (GraphPAS)，采用分享式进化学习并动态采用架构信息熵进行变异选择概率，从而提高搜索效率和准确性。实验结果表明，GraphPAS 在效率和准确性上都优于现有技术。

Abstract

graph neural architecture search has received a lot of attention as Graph Neural Networks (GNNs) has been successfully applied on the non-Euclidean data recently. However, exploring all possible GNNs architectures in the huge search space is too time-consuming or impossible for big gra

graph neural architecture search graph neural networks parallel search sharing-based evolution learning information entropy

发现论文，激发创造

从消息传递重新思考图神经架构搜索

本文提出的 Graph Neural Architecture Search 可以自动化搜索图神经网络的最佳深度和最佳的消息传递机制，以达到优越的图任务结果。

Mar, 2021

PaSca: 可扩展范式下的图神经网络结构搜索系统

本文介绍了 PasCa，一种新的系统和范例，它提供了一种有原则的方法来系统地构建和探索可扩展的 GNN 设计空间，而不是研究单个设计，Pasca 展现了一种新的可扩展图神经结构规范 (SGAP) 和一个包含 150k 种不同设计的通用结构设计空间。

Mar, 2022

基于课程图稀疏化的轻量化图神经网络搜索

设计一种通过有价值的图数据识别重要子架构的联合图数据和架构机制，以搜索轻量级图神经网络 (GNNs) 的最佳架构，提出一种带有图稀疏化和网络修剪的轻量级图神经体系结构搜索 (GASSIP) 方法，并通过两个不可分割的模块优化这些模块来高效搜索最佳轻量级架构。

Jun, 2024

高效且可解释的图神经网络架构搜索：蒙特卡洛树搜索

图神经网络（GNN）广泛应用于各个领域的数据科学任务，但为了设计 / 选择最佳的 GNN 结构，研究人员和实践者需要付出大量的努力和计算成本。为了节省人力努力和计算成本，我们提出了一种高效且可解释的图神经架构搜索方法（ExGNAS），它包括适用于各类图的简单搜索空间和能够解释决策过程的搜索算法。通过与现有方法进行综合评估，实验结果表明 ExGNAS 在准确性和运行时间方面超过当前的图神经架构搜索方法，并有效分析同质图和异质图中 GNN 架构的差异。

Aug, 2023

图神经网络中的神经结构搜索

本文比较了基于强化学习和进化算法的两种神经架构搜索方法来优化图神经网络，结果在包括 7 个数据集的两个搜索空间内显示出两种方法的准确性与随机搜索相似，引出了有多少搜索空间维度实际上与问题相关的问题。

Jul, 2020

Auto-GNN: 图神经网络的神经架构搜索

本文为了解决图神经网络结构设计中的耗时领域，提出了一种自动化图神经网络（AGNN）框架，使用强化学习的控制器去贪婪地验证架构，可以在预定义的搜索空间内找到最优的 GNN 架构，实现了参数共享的优化，可以大幅提升搜索效率，并在真实世界的基准数据集上进行了实验证明。

Sep, 2019

GraphPNAS：通过深度图生成模型学习优秀神经架构的分布

本文探讨神经结构搜索 (NAS) 的计算图模型，提出了一种利用图神经网络的深度生成模型 (GraphPNAS)，通过学习表现良好的神经结构的分布来比单纯的搜索最佳结构更高效。作者使用 RandWire，ENAS 和 NAS-Bench-101/201 的三个搜索空间对 GraphPNAS 进行了广泛的实验，并且结合强化学习方法生成高质量的神经结构，结果表明其优于传统的基于 RNN 的神经结构生成器及随机搜索方法，并且取得了与当前最先进的 NAS 方法相当甚至更好的性能表现。

Nov, 2022

通过参数共享实现高效神经架构搜索

ENAS 提出了高效神经架构搜索方法，使用控制器在大型计算图中发现神经网络架构，以优化子图为目标进行训练，利用共享子模型参数，使用的 GPU-hours 要比所有现有的自动模型设计方法少 1000 倍，设计出实现最新技术水平的新型结构。

Feb, 2018

图形超网络用于神经架构搜索

本文提出了一种新的神经网络结构搜索方法 ——Graph HyperNetworks，借助图神经网络来预测网络性能并直接生成权重，从而提高神经网络搜索效率；此外，Graph HyperNetworks 还可在任意预测环境下使用，在 CIFAR-10 和 ImageNet 等数据集上比现有手动设计网络更快且性能更好。

Oct, 2018

简化图神经网络架构搜索

本文介绍了一种名为 SNAG 的框架，通过一种基于强化学习的搜索算法和一个新颖的搜索空间，用于寻找适合于图神经网络的架构，并与其他方法进行了广泛实验。结果表明，SNAG 框架比人工设计的 GNN 和其他 NAS 方法，包括 GraphNAS 和 Auto-GNN 方法更加有效。

Aug, 2020