May, 2023
资源受限联邦学习系统中分治 NAS 难题
Divide-and-Conquer the NAS puzzle in Resource Constrained Federated Learning Systems
Yeshwanth Venkatesha, Youngeun Kim, Hyoungseob Park, Priyadarshini Panda
TL;DR文章提出了一种名为 DC-NAS 的分治方法，该方法在联邦系统中进行超网神经架构搜索的同时，提出了一种新的多样化采样策略来平衡搜索空间的探索和开发，并通过通道剪枝进一步降低设备的训练复杂性，该方法比最大分离采样等多种采样策略表现更好，研究在 CIFAR10，CIFAR100，EMNIST 和 TinyImagenet 基准测试中进行了评估，显示了联邦学习的不同方面（如可扩展性和非 IID 数据），并且 DC-NAS 提供了近似于全尺寸联邦 NAS 的等效准确性，少消耗 50% 的资源。