Sep, 2024

具有差分隐私的专家联合在线预测：分离与遗憾加速

HTML
PDF
TL;DR本研究解决了在差分隐私保障下，面对随机对手和无意识对手的专家联合在线预测中的遗憾最小化问题。提出的Fed-DP-OPE-Stoch算法在提高每个客户端的遗憾速度上取得了显著进展，而Fed-SVT算法则在特定情况下实现了m倍的遗憾加速，显示出其接近最优的性能。这项研究首次探讨了联合环境中专家的差分隐私在线预测。
发现论文，激发创造
  • 差分隐私联邦学习：客户端视角

    提出了一种新的算法，通过差分隐私保护的联邦优化算法来处理联邦学习中的差分攻击问题，能够在只牺牲模型性能的小量代价下保持客户端差分隐私。

    Dec, 2017

  • 差分隐私联邦学习算法及性能分析

    采用微分隐私概念，提出一种在模型聚合之前加入人工噪音的差分隐私框架，证明该框架可以在不同保护级别下满足差分隐私。同时，优化了聚合轮数、系统总参与用户数和随机选取的用户数，实现了在不同隐私保护和性能要求下的隐私保护联邦学习算法设计，并通过仿真实验证明了该理论的正确性。

    Nov, 2019

  • 联邦学习中的混合模型：隐私、通讯和准确性权衡

    为了解决联邦学习框架下传统ERM问题所面临的隐私保障、低带宽、动态客户端等挑战，我们开发了最优通信-efficient私密方案，可以使客户端参与到ERM的优化中，同时保证通信和隐私效果，并利用数据和客户端抽样实现隐私扩大，验证了我们的解决方案既能够获得相同的隐私、优化-性能操作点，又能大幅降低通信成本。

    Aug, 2020

  • 联邦学习中的本地和中央差分隐私保障鲁棒性和隐私性

    本文研究了如何使用差分隐私技术来保护联邦学习中的隐私和鲁棒性，评估了局部差分隐私（LDP）和中心差分隐私（CDP）技术的可行性和有效性。实验证明，这两个差分隐私技术都可以有效防止后门攻击，并且较其他鲁棒性防御更加有效。同时，差分隐私还可以减轻白盒成员推理攻击。然而，这两个技术都无法防御属性推理攻击。

    Sep, 2020

  • 无需可信服务器的私有联邦学习：凸损失的最优算法

    本文探讨了交叉跨层联合学习中数据隐私保护的问题，提出了基于ISRL-DP的加速算法，并在分类和回归任务中展示了较好的隐私-准确性平衡。

    Jun, 2021

  • 具有遗忘分布式差分隐私的抗串谋联邦学习

    本研究提出了一种新的基于分布式差分隐私的隐私保护联合学习方法，其可以有效避免联合攻击，以及“Sybil”攻击，并给出了相应的安全性证明。在模拟的 5000 个分布式网络客户端上的实验结果表明，该协议执行速度快，学习准确率高，且具有良好的隐私保护性能。

    Feb, 2022

  • 实用的差分隐私和拜占庭容错联邦学习

    本文提出了一种解决联邦学习中隐私和拜占庭容错性的算法，通过使用差分隐私随机梯度下降算法保护隐私，并应用拜占庭容错算法，最终实现高精度和拜占庭攻击的抵抗。

    Apr, 2023

  • 具有相关噪声的差分隐私在线联邦学习

    我们提出了一种新颖的差分隐私算法，用于在线联合学习，通过使用时间相关的噪声来提高效用并确保连续发布的模型的隐私性。

    Mar, 2024

  • 私有和联邦随机凸优化: 集中系统的高效策略

    在集中式系统中的联邦学习（FL）中，本文解决了在受信任和不受信任服务器场景下保护隐私的挑战，分析了这种设置在随机凸优化（SCO）框架中，并设计了一种方法，以确保差分隐私（DP）同时保持同质和异质数据分布的最佳收敛速率。我们基于一种最近的随机优化技术的方法，提供了线性的计算复杂度，与非私有FL方法相当，并减少了梯度混淆。这项工作在各种服务器信任环境中平衡隐私、效率和稳健性，增强了DP在FL中的实用性。

    Jul, 2024

  • 通用联邦学习的收敛差分隐私分析：f-DP 视角

    本研究针对联邦学习中隐私保护不足的问题展开，探讨了现有对于噪声联邦差分隐私分析的局限性。通过引入 f-DP 分析方法，论文证明了 Noisy-FedAvg 方法在隐私保护中的收敛下界，以及 Noisy-FedProx 方法的稳定隐私下界，为联邦学习的隐私保护提供了理论支持，并可推广应用至其他差分隐私分析框架。

    Aug, 2024