May, 2019

使用 Shapley 值解释联邦学习

PDF
TL;DR本文介绍了 Federated Learning 技术以保护隐私，在纵向 Federated Learning 中，我们提出了一种使用 Shapley Value 方法实现了对主主机特征进行详细说明和对联邦客户特征进行统一说明的方法，以平衡模型可解释性与数据隐私。实验结果表明，该方法可以提供鲁棒且富有信息的解释结果。
federated learningprivacymodel interpretationvertical federated learningshapley values
发现论文，激发创造
  • 联邦学习数据价值的原则方法

    本文提出了一种适用于联邦学习的 Shapley 值变体，称为联邦 Shapley 值，它可以计算每个数据源的贡献，能够反映数据源的实际效用并有潜力提高系统的鲁棒性，安全性和效率。

    Sep, 2020

  • 测量联邦学习中参与者的贡献

    本文研究了在保护数据隐私的前提下，让多方参与建立模型的联邦机器学习生态系统中，如何公平计算每个参与方的贡献值。通过使用删除方法和 Shapley 值等简单而有力的技术计算组合实例影响和组合特征重要性，我们为研究模型贡献和信用分配在联邦机器学习中打开了大门。

    Sep, 2019

  • L-Shapley 和 C-Shapley：用于结构化数据的高效模型解释

    本研究探讨了实例级特征重要性评分作为模型解释方法，并提出两种线性复杂度的算法来评估图结构数据中的特征贡献，并与其他模型解释方法进行比较。

    Aug, 2018

  • 重新定义贡献：基于 Shapley 值的联邦学习

    该研究提出了一种名为 ShapFed 的新型参与者贡献评估方法，利用合作博弈论中的 Shapley 值来对参与者的贡献进行精细化评估，并基于此提出了一种名为 ShapFed-WA 的加权聚合方法，尤其在类别不平衡的场景中表现优于传统的联邦平均方法，通过根据参与者的贡献个性化更新模型，进一步提高合作公平性。在 CIFAR-10、Chest X-Ray 和 Fed-ISIC2019 数据集上的实验证明了该方法在提高联邦学习系统的效用、效率和公平性方面的有效性。

    Jun, 2024

  • 非对称垂直联邦学习

    本文提出新的不对称垂直联邦学习架构来保护数据隐私，采用标准的私有集合交集协议和 Pohlig-Hellman 方法来实现不对称 ID 对齐，并提供真实和虚假的方法来实现联邦模型训练。通过实验证明了该方法的可行性。

    Apr, 2020

  • 基于树模型的隐私保护纵向联邦学习

    这篇研究论文旨在解决协作机构拥有具有不同特征的同一组用户数据和只有一个组织持有标签等场景下的隐私保护垂直联邦学习问题，并提出了一种名为 Pivot 的隐私保护垂直决策树训练和预测的解决方案，该方案不依赖于任何受信任的第三方，并提供了针对半诚实对手的保护。

    Aug, 2020

  • 联邦学习中的数据估值与检测

    使用隐私保护方法进行数据估值的联邦学习研究，借助 Wasserstein 距离提供透明数据评估和有效计算 Wasserstein barycenter 以减少对验证数据的依赖，并通过广泛的实证实验和理论分析展示了该估值指标的研究前景。

    Nov, 2023

  • 通过随机化聚合缓解联邦学习的贡献分配不稳定性

    通过对基于梯度的模型重建技术与 Shapley 值的贡献计算进行稳定性分析，本研究提出了 FedRandom 作为一种更公平分布的可行聚合技术，它不仅可以提高贡献评估的准确性，而且能够增强联邦学习系统的整体公平性和稳定性，尤其适用于参与者数量有限的联邦网络。

    May, 2024

  • 利用集成学习实现医疗联邦学习中更有效的数据价值评估

    提出一种称为 SaFE 的解决方案，该方案使用集成方法来计算 Shapley 值以寻找医疗影像中参与多机构协作学习的各个参与者的贡献，值得注意的是，SaFE 的计算成本比当前方法更低，并且能够更好地评估不同参与者的贡献。

    Sep, 2022

  • 个性化解读联邦学习：一种虚拟概念方法

    设计了一种新颖的联邦学习方法，用于解决跨客户的非独立同分布数据解释性问题，同时提高模型性能和训练过程的鲁棒性，并实验证明了该方法的有效性。

    Jun, 2024