Dec, 2023

联邦学习中效率受限的效用隐私双目标优化的理论分析

PDF
TL;DR该研究论文系统地提出了一种效率受限的差分隐私联邦学习的双目标优化问题，并针对噪声水平（σ）、通信轮数（T）和样本比例（q）进行了深入的理论分析，通过大量实验验证了分析结果的有效性和实用性，并为差分隐私联邦学习的低成本参数设计提供了宝贵的指导。
federated learningdifferential privacyprivacy-utility trade-offtraining efficiencyparameter design
发现论文，激发创造
  • 使用分散聚合进行具有差分隐私的联邦学习

    移动设备、隐私、实用性、联邦学习和差分隐私是该研究的主要关键词，研究通过在联邦学习中采用差分隐私的实验环境并使用基准数据集来探讨隐私与实用性之间的平衡问题。

    Nov, 2023

  • 具有客户端级差分隐私的二进制联邦学习

    提出了一种具有差分隐私保证的通信高效的联邦学习训练算法，采用二进制神经网络 (BNNs) 并引入离散噪声以实现客户级别的隐私保护。通过实验证明，该算法在保证隐私的同时，实现了较低的通信开销和性能提升。

    Aug, 2023

  • 通过数据生成和参数扭曲实现隐私保存联邦学习近乎最佳效用

    研究在保持隐私的前提下通过数据生成和参数扭曲实现近乎最优效用的条件，提供了一种达到近乎最优效用的途径和相应的保护机制，同时提供了一种隐私与效用之间权衡的交易的上限。

    May, 2023

  • 异构差分隐私联邦学习的噪音感知算法

    在联邦学习中，差分隐私被用于保护数据隐私和提高模型效用，然而，在具有异质性要求和客户端批次 / 数据集大小差异的情况下，传统的聚合策略会降低效用。本文提出了一种名为 Robust-HDP 的方法，通过有效估计客户端模型更新中的噪声水平并显著减少聚合模型更新中的噪声水平，来提高效用和收敛速度，并对客户端的恶意行为进行安全处理。实验结果和理论分析验证了 Robust-HDP 的有效性。

    Jun, 2024

  • 具差分隐私的联邦学习

    我们展示了在不同类型的数据上，客户端数量和差分隐私机制的增加对模型性能的影响的实证基准，结果显示在分布式和差分隐私设置中，非独立同分布和小数据集的性能降低最为显著。

    Feb, 2024

  • 联邦学习中量化的效果：一种以 Rényi 差分隐私为视角的研究

    通过分析量化对联邦学习系统中的隐私保护的影响，本研究论文得出了量化位级越低，隐私保护越好的结论，并通过隶属推理攻击验证了这一理论分析，证实了量化确实可以增强隐私保护。

    May, 2024

  • 客户协作：具有保证效用 - 隐私权衡改进的灵活差分隐私联邦学习

    我们介绍一种新颖的联邦学习框架 FedCEO，通过让客户端相互合作，在模型效用和用户隐私之间取得平衡，实现了严格的隐私保障。我们在服务器上对堆叠的本地模型参数进行高效的张量低秩近似优化，并使用光谱空间灵活截断高频分量，从而有效地恢复被破坏的语义信息并对不同隐私设置和持续训练过程平滑全局语义空间，同时改进了最先进的效用 - 隐私折衷边界。我们通过对典型图像数据集进行实验证实了我们的理论结果，在不同隐私设置下观察到显著的性能提升和严格的隐私保证。

    Feb, 2024

  • 差分隐私联邦学习算法及性能分析

    采用微分隐私概念，提出一种在模型聚合之前加入人工噪音的差分隐私框架，证明该框架可以在不同保护级别下满足差分隐私。同时，优化了聚合轮数、系统总参与用户数和随机选取的用户数，实现了在不同隐私保护和性能要求下的隐私保护联邦学习算法设计，并通过仿真实验证明了该理论的正确性。

    Nov, 2019

  • 只分享你的表达：保证在联合学习中隐私效用权衡的改进

    使用差分隐私算法减轻联邦学习中的信息泄露风险，提供共识模型的协作更新，同时允许本地个性化，以优化隐私 - 效用权衡问题，并通过实验证明，在小的隐私预算下，相比之前的方法，在图像分类任务中取得显著性能提升。

    Sep, 2023

  • 基于理论原则的联邦学习 —— 以平衡隐私和效用为目标

    提出一个保护机制的通用学习框架，通过扭曲模型参数保护隐私，可以在联合学习中实现个性化的隐私保护与数据价值间的权衡。在理论和实验证明该算法有效，提高了隐私维护的联合学习方法。

    May, 2023