TreeCSS:一种高效的纵向联邦学习框架
本文提供了关于垂直联邦学习的综述,包括联邦学习的概念、算法及其各个方面的挑战和现有进展;介绍了VFL的分类、隐私保护协议、攻击和防御策略,并提出了VFLow统一框架;最后还回顾了工业应用的最新进展和存在的开放性问题和未来发展方向。
Nov, 2022
本文从硬件层到垂直联邦系统层对垂直联邦学习的现有工作和挑战进行分类,特别设计了一种新的MOSP树分类法来分析保护对象、安全模型和隐私保护协议等四个维度的核心组件-安全垂直联邦机器学习算法。
Apr, 2023
VFLAIR是一个可扩展且轻量级的VFL框架,支持多种模型、数据集和协议的VFL训练,包括各种攻击和防御策略的综合评估,以及在不同通信和模型划分设置下的11种攻击和8种防御策略的性能基准研究,为不同实际VFL部署场景的防御策略选择提供具体见解和建议。
Oct, 2023
提出了一种名为HybridTree的新颖联邦学习方法,能够在混合数据上进行联邦树学习,并通过观察树中的一致分割规则理论上证明了可以将各方的知识融入树的较低层,实验证明HybridTree在计算和通信开销较低的情况下能够达到与集中式场景相当的准确度,并且相比其他基准方法可实现高达8倍的加速。
Oct, 2023
在本研究中,我们提出了一种名为RepTreeFL的新型联邦学习框架,通过复制参与客户端的模型架构并扰动其本地数据分布的方式,在有限的数据和少数客户端的情况下,通过聚合多个具有不同数据分布的模型来实现学习。我们利用客户端网络的分层结构以及副本之间的模型差异性,引入了一种基于多样性的树聚合方法,在树状结构中组合副本,并根据模型差异性动态更新聚合权重。实验结果表明,在数据和客户端都有限的情况下,RepTreeFL在图生成和图像分类(二分类和多分类)的两个任务和两种类型的数据中表现出良好的效果和优势。
Dec, 2023
该研究提出了第一个用于垂直联合学习(VFL)中贝叶斯模型拟合的全面框架,通过数据增强技术将VFL问题转化为与现有贝叶斯联合学习算法兼容的形式,并开创了在垂直分区数据场景中进行隐私保护、去中心化贝叶斯推断的新研究方向与应用领域。
May, 2024
垂直联邦学习(VFL)在学术界和工业界引起了广泛关注,它具有广泛的实际应用。本文提出了一种新颖的VFL混合本地预训练(VFLHLP)方法,通过预训练本地网络来调整标记方的子模型或增强其他方在对齐数据上的表示学习,以提高联邦模型的性能。
May, 2024
纵向联邦学习是一种隐私保护的分布式学习范式,不泄露私密数据的情况下,不同参与方通过使用共享样本的分区特征协同学习模型。本文对纵向联邦学习的最新发展进行了系统概述,并提出了几个关键的未来研究方向,以促进该领域的发展。
May, 2024
本研究解决了联邦学习在无监督场景下的应用不足,提出了一种新颖的联邦聚类方法,实现无标签和不均匀数据分布下跨多个客户端的完整类别识别。通过设计联邦聚类逐步精炼方法(FedCRef),该方法显示出在无监督的联邦学习环境中显著提高数据表示精度的潜力。
Aug, 2024