混合精度量化解决联邦学习中的梯度泄露攻击

Oct, 2022

混合精度量化解决联邦学习中的梯度泄露攻击

Mixed Precision Quantization to Tackle Gradient Leakage Attacks in Federated Learning

Pretom Roy Ovi, Emon Dey, Nirmalya Roy, Aryya Gangopadhyay

TL;DR研究提出了混合精度量化 FL 方案作为反制措施，该方案可解决加密密钥的生成过程由于客户端数量增加而变得繁琐的难题，同时通过量化不同精度不同模式中深度模型的不同层，使该方案具有更多的鲁棒性，实证分析证明，应用量化后全局模型的准确性仅有轻微下降。

Abstract

federated learning (FL) enables collaborative model building among a large number of participants without the need for explicit data sharing. But this approach shows vulnerabilities when privacy inference attacks

federated learning privacy inference attacks gradient leakage attack mixed-precision quantized fl scheme robustness

发现论文，激发创造

联邦学习中量化的效果：一种以 Rényi 差分隐私为视角的研究

通过分析量化对联邦学习系统中的隐私保护的影响，本研究论文得出了量化位级越低，隐私保护越好的结论，并通过隶属推理攻击验证了这一理论分析，证实了量化确实可以增强隐私保护。

May, 2024

QMGeo：基于混合截断几何分布的随机量化差分隐私联邦学习

本文提出了一种新颖的随机量化方法，利用混合几何分布引入所需的随机性，以提供差分隐私，而不引入任何附加噪声，并通过收敛分析和实证研究了该方法的性能。

Dec, 2023

随机量化，差分隐私在联邦学习中十分必要

本研究提出了一种通过量化和差分隐私相结合的联合学习算法 —— Randomized Quantization Mechanism（RQM）, 该算法通过两层随机化达到了 Renyi 差分隐私保护，同时在 DP 联合学习的隐私 - 准确性平衡方面取得了较好的表现，是首次仅通过随机量化而不使用显式离散噪声实现 Renyi DP 保证的研究。

Jun, 2023

隐私保护的量子联邦学习通过梯度隐藏

在分布式量子计算中，隐私保护一直是一个重要挑战，本文提出了两种基于量子状态的联邦学习协议，旨在优化隐私保护措施和通信效率，为高效的基于量子通信的联邦学习协议的发展以及安全的分布式量子机器学习做出了重要贡献。

Dec, 2023

资源受限异构设备上的联邦学习的混合精度量化

引入混合精度量化方法到异构资源联邦学习系统中以解决通信和计算瓶颈问题，并在多个模型架构和数据集上进行了广泛的基准性实验验证其优于固定精度量化的性能。

Nov, 2023

联邦学习中模型的深度泄漏

本文提出了两个新的框架，证明在联合学习的情况下传输模型权重也可能会泄露客户端的本地数据，同时介绍了两种对抗措施和评估其保护效果。

Jun, 2022

差分隐私的联合量子机器学习

我们提出了结合量子计算的隐私保护方法，在基于量子的人工智能系统中实现数据泄露和模型反演攻击的全面保护，取得了成功。

Oct, 2023

FheFL：支持全同态加密的拜占庭用户隐私保护联邦学习

本文提出了一种基于全同态加密的联邦学习新方案，在保护用户隐私的同时有效应对了数据毒化攻击，保证了安全性、隐私性、收敛性以及在可接受的计算成本下取得了可比较的准确率。

Jun, 2023

联邦学习中评估渗漏攻击的框架

本文提出了一个原则性框架来评估和比较不同形式的客户隐私泄漏攻击。我们提供了正式和实验分析表明，攻击者可以通过分析本地训练的共享参数更新 (例如，本地梯度或权重更新向量) 来重构私有本地训练数据。该论文还分析了联邦学习中不同超参数配置和攻击算法设置对攻击效果和代价的影响，并且给出了在使用通信高效的 FL 协议时不同梯度压缩比下客户隐私泄漏攻击的有效性的测量、评估和分析。最后，我们提供了一些初步的缓解策略，以突出提供系统化的攻击评估框架来深入了解联邦学习中各种形式的客户隐私泄漏威胁并发展攻击缓解的理论基础。

Apr, 2020

联邦学习中隐私泄露的定量指标

本文提出了一种基于互信息的量化度量方法，用于评估联邦学习中客户端数据的梯度信息泄露风险，并提供了一种新的方法来估算高维梯度和批处理输入数据之间的互信息。实验结果表明，该指标可靠地反映了联邦学习中信息泄露的程度，并证明了风险程度与任务模型状态以及内在数据分布相关。

Feb, 2021