图元网络的内部表示研究

Mar, 2025

On the Internal Representations of Graph Metanetworks

Taesun Yeom, Jaeho Lee

TL;DR本研究解决了图元网络在权重空间学习中的表达特性不明的问题。通过采用居中核对齐（CKA）方法，首次探讨了图元网络的内部表示，证明了图元网络与一般神经网络在表示空间上的显著差异。本工作的主要发现将促进对图元网络的理解，并可能推动其在深度学习中的应用。

Abstract

Weight space learning is an emerging paradigm in the deep learning community. The primary goal of Weight space learning is to extract informative features from a set of parameters using specially designed neural