PaSca: 可扩展范式下的图神经网络结构搜索系统

Mar, 2022

PaSca: 可扩展范式下的图神经网络结构搜索系统

PaSca: a Graph Neural Architecture Search System under the Scalable Paradigm

Wentao Zhang, Yu Shen, Zheyu Lin, Yang Li, Xiaosen Li...

TL;DR本文介绍了 PasCa，一种新的系统和范例，它提供了一种有原则的方法来系统地构建和探索可扩展的 GNN 设计空间，而不是研究单个设计，Pasca 展现了一种新的可扩展图神经结构规范 (SGAP) 和一个包含 150k 种不同设计的通用结构设计空间。

Abstract

graph neural networks (GNNs) have achieved state-of-the-art performance in various graph-based tasks. However, as mainstream GNNs are designed based on the neural message passing mechanism, they do not scale well to data size and message passing steps. Although there has been an emergi

graph neural networks scalability auto-search multi-objective optimization pasca

发现论文，激发创造

GraphPAS: 图神经网络的并行架构搜索

本文提出了一种并行的图神经网络架构搜索框架 (GraphPAS)，采用分享式进化学习并动态采用架构信息熵进行变异选择概率，从而提高搜索效率和准确性。实验结果表明，GraphPAS 在效率和准确性上都优于现有技术。

Dec, 2021

从消息传递重新思考图神经架构搜索

本文提出的 Graph Neural Architecture Search 可以自动化搜索图神经网络的最佳深度和最佳的消息传递机制，以达到优越的图任务结果。

Mar, 2021

概率神经架构搜索

本研究提出了一种名为 PARSEC 的基于概率的神经体系结构搜索方法，通过学习性能高的神经网络体系结构的概率分布来降低内存要求，实现了计算复杂性最大限度的减少，从而使其能够直接搜索更复杂的体系结构和更大的数据集。该方法在 CIFAR-10 和 ImageNet 上的应用表明，该方法在计算成本翻倍的情况下优于其他方法，并且与成本三个数量级更高的方法的性能相匹配。

Feb, 2019

基于课程图稀疏化的轻量化图神经网络搜索

设计一种通过有价值的图数据识别重要子架构的联合图数据和架构机制，以搜索轻量级图神经网络 (GNNs) 的最佳架构，提出一种带有图稀疏化和网络修剪的轻量级图神经体系结构搜索 (GASSIP) 方法，并通过两个不可分割的模块优化这些模块来高效搜索最佳轻量级架构。

Jun, 2024

图神经网络中的神经结构搜索

本文比较了基于强化学习和进化算法的两种神经架构搜索方法来优化图神经网络，结果在包括 7 个数据集的两个搜索空间内显示出两种方法的准确性与随机搜索相似，引出了有多少搜索空间维度实际上与问题相关的问题。

Jul, 2020

Auto-GNN: 图神经网络的神经架构搜索

本文为了解决图神经网络结构设计中的耗时领域，提出了一种自动化图神经网络（AGNN）框架，使用强化学习的控制器去贪婪地验证架构，可以在预定义的搜索空间内找到最优的 GNN 架构，实现了参数共享的优化，可以大幅提升搜索效率，并在真实世界的基准数据集上进行了实验证明。

Sep, 2019

高效且可解释的图神经网络架构搜索：蒙特卡洛树搜索

图神经网络（GNN）广泛应用于各个领域的数据科学任务，但为了设计 / 选择最佳的 GNN 结构，研究人员和实践者需要付出大量的努力和计算成本。为了节省人力努力和计算成本，我们提出了一种高效且可解释的图神经架构搜索方法（ExGNAS），它包括适用于各类图的简单搜索空间和能够解释决策过程的搜索算法。通过与现有方法进行综合评估，实验结果表明 ExGNAS 在准确性和运行时间方面超过当前的图神经架构搜索方法，并有效分析同质图和异质图中 GNN 架构的差异。

Aug, 2023

POPNASv2: 高效的多目标神经结构搜索技术

本文介绍了 Pareto-Optimal Progressive Neural Architecture Search (POPNASv2) 方法，该方法在原有的基础上进行了改进，通过加入新操作符、改进预测模型、引入细胞等价检查机制以及自适应贪心探索策略等方法，实现了 PNAS 相似的性能，同时平均搜索时间快了 4 倍。

Oct, 2022

面向实时语义分割的图像引导架构搜索

提出了一种名为 Graph-guided Architecture Search（GAS）的管道，其中图卷积网络（GCN）作为细胞之间的通信机制，消除了细胞之间的共享约束以实现细胞水平的多样性，并通过搜寻 latency-oriented 约束来实现速度和性能的平衡，在 Cityscapes 和 CamVid 数据集上实现了精度和速度的新的最优平衡。

Sep, 2019

GraphPNAS：通过深度图生成模型学习优秀神经架构的分布

本文探讨神经结构搜索 (NAS) 的计算图模型，提出了一种利用图神经网络的深度生成模型 (GraphPNAS)，通过学习表现良好的神经结构的分布来比单纯的搜索最佳结构更高效。作者使用 RandWire，ENAS 和 NAS-Bench-101/201 的三个搜索空间对 GraphPNAS 进行了广泛的实验，并且结合强化学习方法生成高质量的神经结构，结果表明其优于传统的基于 RNN 的神经结构生成器及随机搜索方法，并且取得了与当前最先进的 NAS 方法相当甚至更好的性能表现。

Nov, 2022