多方参与多类纵向联邦学习
本文提供了关于垂直联邦学习的综述，包括联邦学习的概念、算法及其各个方面的挑战和现有进展；介绍了 VFL 的分类、隐私保护协议、攻击和防御策略，并提出了 VFLow 统一框架；最后还回顾了工业应用的最新进展和存在的开放性问题和未来发展方向。
Nov, 2022
本文从硬件层到垂直联邦系统层对垂直联邦学习的现有工作和挑战进行分类，特别设计了一种新的 MOSP 树分类法来分析保护对象、安全模型和隐私保护协议等四个维度的核心组件 - 安全垂直联邦机器学习算法。
Apr, 2023
垂直联邦学习（VFL）是一种新兴的分布式机器学习范式，其中具有共同实体的不同特征的所有者合作学习一个全局模型，而不共享数据。我们提出了解耦的 VFL（DVFL）作为一种分块学习方法，它允许分散聚合和特征学习与标签监督之间的隔离，在容错性和安全性方面具有优势。我们使用 DVFL 训练分割神经网络，并证明在各种分类数据集上，模型性能与 VFL 相当。
Mar, 2024
纵向联邦学习是一种隐私保护的分布式学习范式，不泄露私密数据的情况下，不同参与方通过使用共享样本的分区特征协同学习模型。本文对纵向联邦学习的最新发展进行了系统概述，并提出了几个关键的未来研究方向，以促进该领域的发展。
May, 2024
垂直联邦学习（VFL）作为一种集成样本对齐和特征汇聚的新型训练范例，受到了越来越多的关注。然而，现有的 VFL 方法在处理参与者之间的异构本地模型时面临挑战，影响了优化收敛和泛化能力。为了解决这个问题，本文提出了一种新颖的方法，称为垂直联邦学习用于训练多方异构模型（VFedMH）。VFedMH 专注于聚合每个参与者的知识嵌入，而不是在前向传播过程中聚合中间结果。通过安全地聚合本地嵌入获取全局知识嵌入，并将其发送给被动方。然后，被动方利用全局嵌入在本地异构网络上进行前向传播。然而，被动方没有标签，因此无法在本地计算本地模型的梯度。为了克服这个局限性，主动方协助被动方计算其本地异构模型梯度。然后，每个参与者使用异构模型梯度训练其本地模型，目标是最小化各自本地异构模型的损失值。此外，本文还对 VFedMH 的收敛性能进行了理论分析。通过大量实验证明，VFedMH 能够同时训练多个异构模型，并在模型性能方面超过一些最近的方法。
Oct, 2023
本文针对垂直联邦学习 (VFL) 这种特殊的架构设计，旨在解决 VFL 中关于安全隐私、大量计算和通信成本、模型分裂和系统异构等方面的研究挑战，提出有效的解决方案并在真实数据集上进行了实验，证明了我们的方案的有效性。
Feb, 2022
综述了垂直联邦学习中的隐私攻击和防御方法，提供了攻击和防御的分类方法，并讨论了未来的研究方向和挑战，为研究人员提供了资源，为从业者在机器学习模型的生命周期中保护数据隐私提供明确指导和可行的见解。
Feb, 2024
垂直联邦学习（VFL）在学术界和工业界引起了广泛关注，它具有广泛的实际应用。本文提出了一种新颖的 VFL 混合本地预训练（VFLHLP）方法，通过预训练本地网络来调整标记方的子模型或增强其他方在对齐数据上的表示学习，以提高联邦模型的性能。
May, 2024