Jul, 2023

基于双分解的分布式优化的联邦 K-Means 聚类

PDF
TL;DR分布式优化在机器学习中的应用既可以由隐私保护的结果推动，也可以由计算效率的提高推动。本文旨在演示如何将双重分解应用于分布式培训 $ K $-means 聚类问题，并通过在多个基准问题上评估子梯度法、束程序信任法和拟牛顿对偶升算法的性能来支持这一观点。
distributed optimizationmachine learningprivacycomputational efficiency$ k $-means clustering
发现论文，激发创造
  • 联邦优化：面向设备智能的分布式机器学习

    本研究提出了一种称为联邦优化的新的分布式机器学习设置，其中优化定义的数据分布在大量节点之间，通过少量通信轮次训练高品质集中模型，本文提出的新算法对于稀疏凸问题的实验结果表现可圈可点，并为未来的联邦优化研究提供了借鉴。

    Oct, 2016

  • 联邦优化：超越数据中心的分布式优化

    介绍了一种分布式机器学习的新技术 - 联邦优化。该技术针对数据分布不均、节点数量极大的情况，通过让本地的移动设备参与计算，以更新全局模型。该研究提出了一种适用于该技术的新算法，并展示了其在实验中的优异表现。

    Nov, 2015

  • 联邦 K-means 聚类

    分散数据集的联邦学习技术可以进行机器学习，而无需数据集合，因此更好地保护数据的隐私和所有权。本研究介绍了一种以联邦方式实现 K-means 聚类的算法，旨在解决中心之间聚类数量变化和在不易分离的数据集上的收敛问题。

    Oct, 2023

  • 分布式部分聚类

    提出了一种在分布式环境下运行的算法来解决部分聚类问题，包括 k 中心，k 中位数和 k 均值等，旨在提高通信效率和解决噪音和数据不确定性带来的影响。

    Mar, 2017

  • 动态加权联邦 k - 均值

    提出了一种名为动态加权联邦 k-means（DWF k-means）的新型联邦聚类算法，通过自适应地聚合来自每个数据源的簇分配和质心，学习反映整个联邦网络集体知识的全局聚类解决方案。在多个数据集和数据分布设置上进行实验，结果表明该算法在聚类分数、准确性和 v-measure 方面能够与中心化的经典 k-means 基线相匹配，并在现实场景中优于现有的联邦聚类方法。

    Oct, 2023

  • FedGrad: 分散式機器學習中的優化

    本文介绍联邦学习作为一种分布式机器学习方法，提出自适应联邦优化算法和其他一些想法，并通过实验展示了在性能上的改进。

    Nov, 2022

  • 改进的联邦数据集建模：使用狄利克雷 - 多项式混合模型

    本文研究如何将中心化数据进行划分以反映真实联邦客户端的统计异质性，并提出了一种完全联邦且有理论依据的算法，通过使用推断的分布从中心化数据创建模拟客户端，实现了改进的服务器端模拟。

    Jun, 2024

  • 联邦优化指南

    本论文旨在提供针对联邦优化算法的具体指导和实用实现，重点关注进行有效模拟以推断实际效果，并鼓励研究人员设计适用于各种实际应用的联邦学习算法。

    Jul, 2021

  • 基于一致性优化的集群联邦学习中的群体共识达成机制

    本论文介绍了一个解决群集联合学习问题的新方法，该方法基于共识优化 (CBO) 中的思想，使用相互作用的粒子系统进行全局优化，经过数学推导得到了该模型的收敛性证明，并通过实验结果证实了 FedCBO 算法的有效性。

    May, 2023

  • 当去中心化优化遇上联邦学习

    本文系统地研究了分散式学习对于联邦学习的分布式最优化的机遇和挑战。

    Jun, 2023