May, 2023

RATs-NAS: GCN 上相邻路径重定向的神经网络架构搜索

PDF
TL;DR本文介绍了图卷积网络（GCN）和多层感知机（MLP）上邻接操作轨迹之间的差异，并提出了 RATs-NAS 来快速搜索所需的神经网络架构。RATs-NAS 由 Redirected Adjacent Trails GCN（RATs-GCN）和 Predictor-based Search Space Sampling （P3S）模块组成。基于本文的观察，认为具有相似的 FLOPs 架构将表现出类似的表现。最后，RATs-NAS 在 NASBench-201 的三个子数据集上显著击败了 WeakNAS，Arch-Graph 和其他竞争对手。
neural architecture searchgraph-convolution networkspredictor-based methodsflopsneural network architecture
发现论文，激发创造
  • FR-NAS: 前向和后向图预测器用于高效的神经网络架构搜索

    通过使用图神经网络作为性能预测器，将神经架构转化为向量表示，并使用定制训练损失来提高预测准确性。在多个基准数据集上进行的实验结果表明，与其他图神经网络预测器相比，预测准确性显著提高，Kendall-tau 相关性增加了 3% 至 16%。

    Apr, 2024

  • 基于预测的图卷积神经网络 NAS

    提出了一种基于图卷积网络（GCN）的性能预测器，用于实现高效的硬件感知神经架构搜索（BRP-NAS）。与以往的方法不同，该方法重视模型之间的二元关系和迭代数据选择策略，实现了更高效的样本利用率。研究表明，该方法在多项飞行器搜索领域中的性能表现均优于现有方法，并呼吁人们重视准确的时延估计。

    Jul, 2020

  • 简化图神经网络架构搜索

    本文介绍了一种名为 SNAG 的框架，通过一种基于强化学习的搜索算法和一个新颖的搜索空间，用于寻找适合于图神经网络的架构，并与其他方法进行了广泛实验。结果表明，SNAG 框架比人工设计的 GNN 和其他 NAS 方法，包括 GraphNAS 和 Auto-GNN 方法更加有效。

    Aug, 2020

  • GraphNAS: 强化学习下的图神经网络架构搜索

    本研究提出一种名为 GraphNAS 的图神经网络结构搜索方法，可用于自动搜索最佳图神经网络架构，通过强化学习训练循环网络，实现生成变长字符串，针对验证数据集的期望准确性最大化，实验结果表明在传导和归纳性学习设置中的节点分类任务中，GraphNAS 具有一致更好的性能，并可设计出一种与最佳人工设计的结构相媲美的新型网络架构。

    Apr, 2019

  • 图神经网络中的神经结构搜索

    本文比较了基于强化学习和进化算法的两种神经架构搜索方法来优化图神经网络，结果在包括 7 个数据集的两个搜索空间内显示出两种方法的准确性与随机搜索相似，引出了有多少搜索空间维度实际上与问题相关的问题。

    Jul, 2020

  • 图神经网络的对抗鲁棒性神经架构搜索

    我们提出了一种名为 G-RNA 的新型鲁棒神经结构搜索框架，它为消息传递机制提供了一个鲁棒的搜索空间，并定义了一个鲁棒度量来指导搜索过程，可以有效地搜索到最优的鲁棒性较强的 GNN， 在对基准数据集进行的广泛实验结果中，G-RNA 在对抗攻击下优于手动设计的鲁棒性 GNN 和基本的图形 NAS 基线 12.1％至 23.4％。

    Apr, 2023

  • TG-NAS: 使用 Transformer 和图卷积网络利用零成本的代理进行高效神经架构搜索

    TG-NAS 是一种基于模型的通用代理，利用基于 Transformer 的操作符嵌入生成器和图卷积网络 (GCN) 来预测架构性能，通过对各种 NAS 基准测试进行实验证明了其在搜索效率方面的优势，表明其作为高效架构搜索的基础组成部分的潜力。TG-NAS 与先前的零成本 (ZC) 代理方法相比，搜索效率提高了多达 300 倍，特别地，在 NAS-Bench-201 空间上发现具有 93.75% CIFAR-10 准确度的竞争模型，并在 DARTS 空间上达到了 74.5% 的 ImageNet top-1 准确度。

    Mar, 2024

  • 高效且可解释的图神经网络架构搜索：蒙特卡洛树搜索

    图神经网络（GNN）广泛应用于各个领域的数据科学任务，但为了设计 / 选择最佳的 GNN 结构，研究人员和实践者需要付出大量的努力和计算成本。为了节省人力努力和计算成本，我们提出了一种高效且可解释的图神经架构搜索方法（ExGNAS），它包括适用于各类图的简单搜索空间和能够解释决策过程的搜索算法。通过与现有方法进行综合评估，实验结果表明 ExGNAS 在准确性和运行时间方面超过当前的图神经架构搜索方法，并有效分析同质图和异质图中 GNN 架构的差异。

    Aug, 2023

  • GraphPNAS：通过深度图生成模型学习优秀神经架构的分布

    本文探讨神经结构搜索 (NAS) 的计算图模型，提出了一种利用图神经网络的深度生成模型 (GraphPNAS)，通过学习表现良好的神经结构的分布来比单纯的搜索最佳结构更高效。作者使用 RandWire，ENAS 和 NAS-Bench-101/201 的三个搜索空间对 GraphPNAS 进行了广泛的实验，并且结合强化学习方法生成高质量的神经结构，结果表明其优于传统的基于 RNN 的神经结构生成器及随机搜索方法，并且取得了与当前最先进的 NAS 方法相当甚至更好的性能表现。

    Nov, 2022

  • Auto-GNN: 图神经网络的神经架构搜索

    本文为了解决图神经网络结构设计中的耗时领域，提出了一种自动化图神经网络（AGNN）框架，使用强化学习的控制器去贪婪地验证架构，可以在预定义的搜索空间内找到最优的 GNN 架构，实现了参数共享的优化，可以大幅提升搜索效率，并在真实世界的基准数据集上进行了实验证明。

    Sep, 2019