May, 2024

联邦行为平面：解释联邦学习中客户端行为的演化

HTML
PDF
TL;DR通过引入联邦行为平面 (FBPs) 的分析方法，研究高度分布的深度学习环境中联邦学习 (FL) 系统的动态行为，提出了一种解决当前文献中关于客户行为的关键挑战的新方法，通过描述客户的行为状态和贡献来检测恶意或嘈杂的客户模型，从而提高安全性和超越现有的 FL 防御机制的功效。
发现论文，激发创造
  • 联邦学习中评估渗漏攻击的框架

    本文提出了一个原则性框架来评估和比较不同形式的客户隐私泄漏攻击。我们提供了正式和实验分析表明，攻击者可以通过分析本地训练的共享参数更新(例如，本地梯度或权重更新向量)来重构私有本地训练数据。该论文还分析了联邦学习中不同超参数配置和攻击算法设置对攻击效果和代价的影响，并且给出了在使用通信高效的FL协议时不同梯度压缩比下客户隐私泄漏攻击的有效性的测量、评估和分析。 最后，我们提供了一些初步的缓解策略，以突出提供系统化的攻击评估框架来深入了解联邦学习中各种形式的客户隐私泄漏威胁并发展攻击缓解的理论基础。

    Apr, 2020

  • 针对联邦学习的威胁调查：攻击和防御的概念、分类法、实验研究和挑战

    本文对联邦学习的隐私保护问题进行了广泛的研究和探讨，提出了对应的防御方法并对防御方法的选择提出了指导建议，研究得出了关于攻击和防御行为的进一步结论以及面临的挑战和经验教训。

    Jan, 2022

  • 联邦学习的进展：模型、方法和隐私

    本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题，提出了一种更加通用的算法设计框架、攻击场景和防御方法，致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。

    Feb, 2023

  • 联邦学习中的共享内容调查：模型效用、隐私泄露和通信效率的观点

    通过从新的角度，即什么在联邦学习中共享，以模型效用、隐私泄露和通信效率为重点，系统调查了联邦学习方法的新分类、隐私攻击的脆弱性以及不同共享方法的性能与隐私保护的效力，并讨论了当前方法存在的潜在缺陷和未来改进的方向。

    Jul, 2023

  • VFLAIR: 垂直联邦学习的研究库和基准

    VFLAIR是一个可扩展且轻量级的VFL框架，支持多种模型、数据集和协议的VFL训练，包括各种攻击和防御策略的综合评估，以及在不同通信和模型划分设置下的11种攻击和8种防御策略的性能基准研究，为不同实际VFL部署场景的防御策略选择提供具体见解和建议。

    Oct, 2023

  • 基于模型生命周期的垂直联邦学习中隐私威胁与防御调查

    综述了垂直联邦学习中的隐私攻击和防御方法，提供了攻击和防御的分类方法，并讨论了未来的研究方向和挑战，为研究人员提供了资源，为从业者在机器学习模型的生命周期中保护数据隐私提供明确指导和可行的见解。

    Feb, 2024

  • 强化学习作为鲁棒和公平联邦学习的催化剂：解读客户贡献的动态

    提出了一种新的强化联邦学习（RFL）框架，通过深度强化学习在聚合过程中自适应优化客户贡献，提高模型对恶意客户的鲁棒性和参与者之间的公平性，在非独立分布的情况下实现鲁棒性和公平性，并通过验证集性能引导的奖励机制获得了可靠性和公平性的可比较水平。

    Feb, 2024

  • 联邦学习隐私：攻击、防御、应用和政策环境 - 一项调研

    深度学习和联邦学习是当前研究的重点，其中涉及隐私保护技术、隐私攻击以及隐私法规的探讨。

    May, 2024

  • 联邦学习生命周期中的威胁和防御：全面调查和挑战

    本文回顾了联邦学习服务生命周期中最具代表性和最先进的威胁和防御框架，并总结了当前研究的瓶颈和未来研究方向。

    Jul, 2024

  • 联邦学习中的隐私攻击并非易事：一项实验研究

    本研究解决了联邦学习中隐私攻击有效性的问题，尽管已有多种攻击算法，但是否能在现实环境中有效提取用户私密数据仍不确定。通过对相关文献的分析和在真实联邦学习环境中的实验，我们发现目前的隐私攻击算法在实际应用中难以突破用户数据隐私，这表明隐私攻击的难度超出预期。

    Sep, 2024