BriefGPT.xyz
Ask
alpha
关键词
graph hypernetworks
搜索结果 - 5
个性化联邦学习的束超网络
通过将图神经网络与超网络相结合,图超网络(GHNs)在神经架构搜索、分子性质预测和联邦学习等各个领域中利用关系数据。为了克服 GHNs 的不足,在个性化联邦学习(PFL)的背景下,我们提出了一种新型的超网络类,即 sheaf 超网络(SHN
→
PDF
a month ago
从点到源:用生成模型初始化神经网络
我们介绍了两组新的初始化方法:第一组是通过应用变分自动编码器来局部初始化权重组,第二组是通过应用图形超网络来全局初始化完整的权重集合。我们通过在精度、收敛速度和集成方面对采用的生成模型对最先进的神经网络进行了彻底的评估。结果表明,全局初始化
→
PDF
8 months ago
HyperPPO:一种用于机器人控制的寻找小策略的可扩展方法
为实现记忆受限、高性能机器人的神经控制,需要具有较少参数的模型。本研究提出了一种基于图形超网络的在线策略强化学习算法 HyperPPO,能够同时估计多个较小神经网络架构的权重,并获得高性能的策略。我们的方法能够在保持采样效率的同时,为用户提
→
PDF
9 months ago
ICCV
GHN-QAT:训练图超网络以预测在未见过的有限精度神经网络中抗量化参数
通过研究我们发现,量化感知训练可以显著提高 4 位量化 CNN 的 GHN 预测参数的精确性,甚至可以让 2 位量化 CNN 的 GHN 预测参数的精确性超过随机结果。这些有希望的结果为未来的研究开辟了新的方向。
PDF
9 months ago
通过图形超网络进行未见量化卷积架构的参数预测
利用 Graph Hypernetworks 预测未被量化的 CNN 架构的参数,发现 GHN-Q 可以成功预测各种 8 位量化 CNN 的量化鲁棒参数,甚至可以胜任 4 位量化,对低位的量化微调可能会有更好的表现,该模型对深度学习在边缘计
→
PDF
2 years ago
Prev
Next