Mar, 2023

联邦决策制定的融合策略

PDF
TL;DR本篇研究讨论信息聚合问题，即在联邦决策中，一组代理协作推断自然状态而不与中心处理器或其他代理共享其私有数据。我们分析了非贝叶斯社会学习策略，其中代理将他们的个体观察结果纳入他们的观点中，中心处理器通过算术或几何平均来聚合这些观点。通过我们以前的工作，我们建立了两个聚合策略的渐进正态性的特征，并通过模拟验证了理论结果，并比较了两个策略。
发现论文，激发创造
  • 生物医学数据点对点联邦学习中的联邦策略对比

    本研究旨在测试不同的联邦学习策略在点对点环境中的效果，提出了各种聚合策略，包括基于参与者贡献的加权平均聚合，并通过使用不同数据量的生物医学数据集进行测试，实验结果表明基于准确性的加权平均方法优于传统的联邦平均方法。

    Feb, 2024

  • 联邦学习聚合：具有保证的新的鲁棒算法

    该研究对联邦学习框架下聚合策略进行了全面的数学收敛分析，并通过与 FedAvg 进行分类任务的比较来评估其性能，得出了新的聚合算法，该算法可以通过区分客户端贡献的价值来修改其模型架构。

    May, 2022

  • 联邦贝叶斯深度学习：统计聚合方法在贝叶斯模型中的应用

    通过分析六种不同的聚合策略，我们使用独立同分布（IID）和非独立同分布（non-IID）的 CIFAR-10 数据集以及完全变种 ResNet-20 结构来构建贝叶斯深度学习（DL）模型的联邦学习（FL）系统的关键超参数，从而影响准确性、校准性、不确定性量化、训练稳定性和客户端计算要求。

    Mar, 2024

  • 通过后验平均实现联邦学习：一个新的视角和实用算法

    以后验推断方法为基础的联邦学习算法可以通过在客户端推断本地数据的后验分布来推断全局后验分布，而 FedPA 则提供了一种计算和通信高效的近似后验推断算法，使用 MCMC 进行客户端的近似推断。

    Oct, 2020

  • 模型共享游戏：自愿参与下联邦学习的分析

    本文介绍了在联邦学习中，面临着全局模型与本地模型的选择困境，运用博弈论的框架进行自然分析，提出了基于博弈论的联邦学习模型，探讨了均衡的选手分区问题，并分别分析了三种联邦模式的稳定分区。

    Oct, 2020

  • 非贝叶斯社会学习

    研究信息聚合和社会学习模型，发现当个体代理通过私有观察和邻居信念的更新以及平均相信邻居来学习正确的世界状态时，使用特定的条件，代理最终会预测未来趋势并达成一致共识。

    Mar, 2011

  • 联邦边缘推理中的因果影响

    考虑了使用未标记的流数据进行推理的具有异质代理和连接性的背景。代理相互合作，通过交换本地推断以及通过融合中心，使用因果框架评估代理对整体决策的实际影响。研究了反映不同代理参与模式和融合中心策略的各种场景，并推导出表示每个代理对联合决策的因果影响的表达式，以便应对异常情况，如敌对攻击或系统故障。通过数值模拟和多摄像机人群计数的实际应用验证了理论结果。

    May, 2024

  • 通过序贯决策追求联邦学习的整体福祉

    现有的公平性感知聚合策略可以统一为在线凸优化框架，我们通过改进现有方法中的次优设计，提出 AAggFF，实验结果表明 AAggFF 在实际情景下实现了更好的客户级公平性。

    May, 2024

  • 如何在联邦学习中结合变分贝叶斯网络

    该研究旨在探讨如何在联邦学习中结合变分贝叶斯网络，为不同聚合设置提供基准，并从三个图像分类数据集的实证结果中观察聚合分布的扩展程度对学习过程的影响。

    Jun, 2022

  • 贝叶斯非参数联邦学习神经网络

    本文介绍了一种 Bayesian nonparametric framework，用于 federated learning 问题，其通过 neural networks 对每个数据服务器提供的本地权值进行建模，并且提出了一种推理方法，以在单个通信回合或很少的通信回合中合成更多表达性的全局网络。这种方法在两个流行的图像分类数据集的 federated learning 问题上得到了很好的应用效果。

    May, 2019