PackVFL:垂直联邦学习的高效加密压缩
该研究探讨了一种解决垂直联邦学习的方法,该方法不需要多个客户端协作,适合客户端间断性连接,并采用基于扰动局部嵌入的隐私保护技术和随机梯度算法,从而提高通信效率和数据隐私保护等方面表现更加优越。
Jul, 2020
本文提出了一种使用最先进的安全模块进行安全和高效的垂直联邦学习的新方法,与同态加密(HE)相比,该方法提供了 9.1e2〜3.8e4 的加速,同时不影响训练性能。
May, 2023
本文提出了一种名为 vFedSec 的新型设计,其中包含一个创新的安全层,可使用安全聚合中的最新安全模块安全高效地进行垂直联邦学习,实现隐私数据的有效保护,并且速度比同类方法快得多。
May, 2023
垂直联邦学习(VFL)在学术界和工业界引起了广泛关注,它具有广泛的实际应用。本文提出了一种新颖的 VFL 混合本地预训练(VFLHLP)方法,通过预训练本地网络来调整标记方的子模型或增强其他方在对齐数据上的表示学习,以提高联邦模型的性能。
May, 2024
本文提出了一种名为 MMVFL 的多方参与的多类别垂直联邦学习框架,采用多视角学习的思想,在保护隐私的前提下,将标签信息从其所有者分享到其他联邦学习参与者中。实验结果表明,MMVFL 可以在多个 VFL 参与者之间有效地共享标签信息,并达到现有方法的多类别分类性能水平。
Jan, 2020
HDP-VFL 是首个联邦学习中差分隐私的框架,实现了模型学习的隐私保护,其效果与非隐私保护的联邦学习相似,并且采用了同态加密和安全多方计算等协议以确保计算和训练的安全。
Sep, 2020
本文提供了关于垂直联邦学习的综述,包括联邦学习的概念、算法及其各个方面的挑战和现有进展;介绍了 VFL 的分类、隐私保护协议、攻击和防御策略,并提出了 VFLow 统一框架;最后还回顾了工业应用的最新进展和存在的开放性问题和未来发展方向。
Nov, 2022
垂直联邦学习(VFL)作为一种集成样本对齐和特征汇聚的新型训练范例,受到了越来越多的关注。然而,现有的 VFL 方法在处理参与者之间的异构本地模型时面临挑战,影响了优化收敛和泛化能力。为了解决这个问题,本文提出了一种新颖的方法,称为垂直联邦学习用于训练多方异构模型(VFedMH)。VFedMH 专注于聚合每个参与者的知识嵌入,而不是在前向传播过程中聚合中间结果。通过安全地聚合本地嵌入获取全局知识嵌入,并将其发送给被动方。然后,被动方利用全局嵌入在本地异构网络上进行前向传播。然而,被动方没有标签,因此无法在本地计算本地模型的梯度。为了克服这个局限性,主动方协助被动方计算其本地异构模型梯度。然后,每个参与者使用异构模型梯度训练其本地模型,目标是最小化各自本地异构模型的损失值。此外,本文还对 VFedMH 的收敛性能进行了理论分析。通过大量实验证明,VFedMH 能够同时训练多个异构模型,并在模型性能方面超过一些最近的方法。
Oct, 2023
本文从硬件层到垂直联邦系统层对垂直联邦学习的现有工作和挑战进行分类,特别设计了一种新的 MOSP 树分类法来分析保护对象、安全模型和隐私保护协议等四个维度的核心组件 - 安全垂直联邦机器学习算法。
Apr, 2023