GI-NAS：通过自适应神经架构搜索提升梯度反转攻击

May, 2024

GI-NAS：通过自适应神经架构搜索提升梯度反转攻击

GI-NAS: Boosting Gradient Inversion Attacks through Adaptive Neural Architecture Search

Wenbo Yu, Hao Fang, Bin Chen, Xiaohang Sui, Chuan Chen...

TL;DR本文提出了一种名为 Gradient Inversion via Neural Architecture Search (GI-NAS) 的方法，通过自适应搜索网络和捕捉神经结构背后的隐含先验知识，进一步利用这种隐含先验知识来反转渐变并实施隐私数据重构攻击，实验证明 GI-NAS 相较最先进的渐变反转方法在更实际的设置下，包括高分辨率图像、大尺寸批次和高级防御策略下，可以实现更好的攻击性能。

Abstract

gradient inversion attacks invert the transmitted gradients in Federated Learning (FL) systems to reconstruct the sensitive data of local clients and have raised considerable privacy concerns. A majority of gradient inversion methods rely heavily on explicit prior knowledge (e.g., a we

gradient inversion attacks federated learning systems implicit prior knowledge neural architecture search attack performance

发现论文，激发创造

强化优化的时间梯度反转攻击

本文介绍了一种名为 TGIAs-RO 的新型 Gradient Inversion Attacks 攻击方式，采用多重时间梯度来恢复本地客户端保留的私有数据，能够有效克服瓶颈，提高重构性能和鲁棒性，同时启发了更多关于联邦学习中隐私保护方法的探索。

Jun, 2023

生成对抗神经架构搜索

本文提出了具有可证明收敛保证的生成式对抗网络 NAS (GA-NAS)，并基于权重的鉴别器提供的奖励，采用增强学习训练生成器，探索搜寻空间而无需评估大量体系结构，通过三个公共 NAS 基准测试，在多个情况下 GA-NAS 都能打败已发布的最佳结果，同时 GA-NAS 可以处理特定搜寻约束和空间，能用于改进其他 NAS 方法找到的优化基线的 ImageNet 准确性或参数数量。

May, 2021

图神经网络的对抗鲁棒性神经架构搜索

我们提出了一种名为 G-RNA 的新型鲁棒神经结构搜索框架，它为消息传递机制提供了一个鲁棒的搜索空间，并定义了一个鲁棒度量来指导搜索过程，可以有效地搜索到最优的鲁棒性较强的 GNN，在对基准数据集进行的广泛实验结果中，G-RNA 在对抗攻击下优于手动设计的鲁棒性 GNN 和基本的图形 NAS 基线 12.1％至 23.4％。

Apr, 2023

AdversarialNAS: GANs 的对抗性神经架构搜索

本文提出了一种专为生成对抗网络（GAN）设计的 AdversarialNAS 方法，它是第一种能够同时搜索生成器和鉴别器架构的方法，并且不需要计算任何额外指标以评估搜索架构性能，该方法在 CIFAR-10 上取得了新的最优状态下的 FID 分数 10.87 和高竞争的 Inception Score 8.74，并且也在 STL-10 上取得了新的最优状态下的 FID 分数 26.98 和 Inception Score 9.63。

Dec, 2019

GI-SMN：无先验知识的反梯度逆转攻击对抗联邦学习

通过 Style Migration Network（GI-SMN）提出了一种新的梯度逆转攻击方法，它打破了以往梯度逆转攻击所做的强假设，在批处理中实现了高相似度的用户数据重建，同时超越了当前的梯度逆转攻击方法和差分隐私防御方法。

May, 2024

神经架构搜索的几何感知梯度算法

本文研究神经架构搜索中的优化问题，提出一种基于单层经验风险最小化的几何感知框架，结合梯度下降和正则化的优化器，通过基于连续优化的松弛方法实现对离散寻找空间的搜索，成功为计算机视觉中的最新 NAS 基准提供了一种优异的算法。

Apr, 2020

KNAS: 绿色神经架构搜索

本文提出了一种环保的神经结构搜索方法，使用梯度代替传统的下游训练来评估结构，探索了梯度核心假设并提出了基于该假设的 KNAS 方法，在图像和文本分类任务中实现了与传统方法相当的结果，但搜索速度更快且具有环保意识。

Nov, 2021

细粒度神经架构搜索

利用神经架构搜索和细粒化技术提出了一个可以在单个层内使用多种异构操作，甚至可以使用多种基本操作生成组合特征映射的框架。该框架可以通过随机梯度下降方法端到端地训练网络，并优化网络的资源利用效率。在大规模图像分类和图像超分辨率等计算机视觉任务中，该框架通过灵活的操作搜索和通道剪枝实现了最先进的性能。

Nov, 2019

基于图同构的性能预测器架构增强

本文提出了一种名为 GIAug 的有效的 DNN 架构扩增方法，它可以通过基于图同构的机制，非常高效地生成单一架构上多元化的注释架构，并将其编码成适合于大多数预测模型的形式，从而非常灵活地利用各种现有的基于性能预测的 NAS 算法，并且在 CIFAR-10 和 ImageNet 基准数据集上进行的广泛实验表明，GIAug 可以显著提高大多数最先进的同行预测器的性能，并且在与现有的最先进 NAS 算法相比时，可以在 ImageNet 上节省三个数量级的计算成本，同时保持类似的性能。

Jul, 2022

AutoGAN: 生成对抗网络的神经结构搜索

本文介绍了一项有关 AutoGAN 的初步研究，这是将神经架构搜索算法引入生成对抗网络中的首个尝试。通过使用 RNN 控制器来引导搜索生成器构架的变化，实验结果验证了 AutoGAN 在无条件图像生成任务中的有效性，并与当前最先进的手工制作的 GANs 相比，取得了高竞争性的表现。

Aug, 2019