联邦对抗训练

Dec, 2020

FAT: Federated Adversarial Training

Giulio Zizzo, Ambrish Rawat, Mathieu Sinn, Beat Buesser

TL;DR本文介绍一种联邦对抗训练（FAT）方法，结合联邦学习和对抗训练，以降低诈骗攻击风险并在训练期间保护数据隐私，研究了对于 MNIST、Fashion-MNIST 和 CIFAR10 这几种理想的联邦学习数据集，以及在 LEAF 基准数据集上的理想设置下对于集群客户对于模型的会耗时的这种自然扩展，探讨挑战和未能在 Trimmed Mean 和 Bulyan 防御上取得的成果，但使用一种新型的蒸馏攻击，成功破解了 Krum，为防御者呈现了似乎 “强大” 的模型，实际上该模型对于简单攻击的修改并不提供鲁棒性。

Abstract

federated learning (FL) is one of the most important paradigms addressing privacy and data governance issues in machine learning (ML). Adversarial training has emerged, so far, as the most promising approach agai

federated learning adversarial training privacy evasion threats robustness

发现论文，激发创造

深入探讨联邦学习的对抗鲁棒性

本文研究联邦学习的对抗鲁棒性，通过各种攻击和对抗训练方法进行全面的鲁棒性评估，提出基于决策边界的联邦对抗训练算法 DBFAT，包括本地重新加权和全局正则化两个组件，实验证明在 IID 和非 IID 设置下，DBFAT 一直优于其他基准。

Feb, 2023

CalFAT: 带标签偏斜的校准联邦对抗训练

该论文研究了在存在标签倾斜的情况下进行联邦对抗训练的问题，并提出了一种 Calibrated FAT 方法来解决非同类概率和异构本地模型引起的训练不稳定性和自然精度降低问题。该方法通过自适应地校准 logits 来实现类平衡，旨在获得更好的收敛点和客户端之间均匀的本地模型。

May, 2022

联邦学习中抵御加剧异质性以实现健壮模型

通过引入 Slack Federated Adversarial Training，缓解本地客户端之间数据异质性的加剧，从而达到对抗健壮性的优化，在不同的对抗训练和联邦优化方法以及不同的基准和现实数据集上进行了实验验证.

Mar, 2023

联邦学习中的隐私与鲁棒性：攻击与防御

在这篇综述性论文中，作者重点介绍基于联邦学习的系统在应对恶意攻击、保障隐私方面所面临的问题，特别关注如何提高系统鲁棒性和隐私保护措施。

Dec, 2020

基于非独立同分布数据的鲁棒联邦学习中的对数标定

本研究采用对抗训练 (Adversarial Training, AT) 框架来提高联邦学习模型对对抗样本攻击的鲁棒性，即联邦对抗训练 (Federated Adversarial Training, FAT)；同时通过一种简单而有效的对数准确性矫正策略解决非独立同分布的数据分布问题，以提高模型鲁棒性，实验证明该策略在 MNIST、Fashion-MNIST 和 CIFAR-10 三个数据集上与多个基准模型相比在自然精度和鲁棒精度方面均表现出竞争力。

Mar, 2024

联邦学习的威胁：综述

本文提供了一种简洁的介绍联邦学习的概念，并使用一个唯一的分类法来涵盖针对联邦学习的威胁模型和两个主要的攻击方法：1) 污染攻击和 2) 推理攻击，探讨了向更强大的隐私保护方向发展的有前途的未来研究方向.

Mar, 2020

联邦学习的进展：模型、方法和隐私

本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题，提出了一种更加通用的算法设计框架、攻击场景和防御方法，致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。

Feb, 2023

联邦交替训练（FAT）：在医学成像的联邦分割中利用未标注数据存储

提出了一种名为 Federated Alternate Training (FAT) 的替代训练框架，该框架可以使用具有注释数据的数据集和不带注释数据的数据集交错训练，其中不带注释的数据集使用全局分割模型生成伪标签进行自我监督学习，适用于医学成像数据集的隐私保护训练。

Apr, 2023

联邦学习攻击和防御：综述

本文系统总结了目前联邦学习系统中存在的各种攻击和针对性防御，包括学习和预测阶段中对不同角色的攻击，并分析了各种隐私和安全层面的防御机制，旨在为建立更加安全、稳定的联邦学习系统提供参考。

Nov, 2022

联邦对抗交叉训练（FACT）

本文提出了 Federated Adversarial Cross Training （FACT）方法来解决非 i.i.d. 数据的情况下，联邦模型适应目标客户端的挑战。通过使用不同领域的源客户端之间的差异来识别目标域中的域漂移，该方法在多源单目标基准测试中优于现有的联邦模型、非联邦模型和单源单目标实验中的最新无监督域自适应模型。

Jun, 2023