non-i.i.d. data | BriefGPT - AI 论文速递

关键词non-i.i.d. data

搜索结果 - 11

Federated Learning 中的模型聚合和个性化（含不完整类别）
在联邦学习中，我们提出了一种名为 MAP 的算法，旨在解决分布在不完整类别数据上的模型聚合和个性化挑战，通过引入限制性 softmax 替代标准 softmax 以提高模型聚合效果，并利用继承的个性化模型来存储个性化经验。大量实验证明了我们
PDF3 months ago
特征标准化正则化的联邦学习：将不均衡的分布转化为全局洞察
在联邦学习领域，解决非独立同分布的数据问题一直是提高全局模型性能的一个重要挑战。本文提出了特征范数正则化联邦学习（FNR-FL）算法，通过独特地结合类平均特征范数来增强在非独立同分布场景下的模型准确性和收敛性。我们的综合分析发现，相比其他现
PDF7 months ago
关于联邦学习中负面客户采样问题的聚合梯度信任时间
该研究提出了一种新颖的学习率自适应机制用于解决联合学习中面临的非独立同分布数据样本训练的优化难题，并在多个图像和文本分类任务上进行了广泛的实验证明其有效性。
PDFa year ago
HFedMS: 工业虚拟世界中具有可记忆数据语义的异构联邦学习
本文提出了一个高性能和高效的系统 HFEDMS，用于将实践的 Federated Learning 纳入工业元宇宙，克服了非独立和非同分布数据、学习遗忘和通信成本等挑战，通过动态分组和训练模式转换、语义压缩和补偿以及层间备用同步协议等技术，
PDF2 years ago
ISFL: 基于局部重要性抽样的非独立同分布数据联邦学习
本文提出一种基于重要性抽样的联邦学习 (ISFL) 框架，紧密结合局部训练与周期共享，解决分布式客户端上存在的梯度差异、收敛性能等问题，并在 CIFAR-10 数据集上验证了其优越性能。同时，该方法是首个从局部采样角度提出的可与神经网络模型
PDF2 years ago
SphereFed: 超球面联合学习
使用球面限制措施的超球面联邦学习 (SphereFed) 框架，通过在联邦学习之前将数据点的表示限制到由客户端共享的单位超球面上，解决了非独立分布数据的处理问题，通过构建固定分类器来处理不类别分布的数据在不同客户端间的差异性并在最小化损失函
PDF2 years ago
AAAI联邦学习：在数据智能和隐私之间取得平衡
本文提供了一种系统的概述和分类，涵盖了联邦学习的现有安全挑战以及针对数据污染，推断攻击和模型毒化攻击的防御技术。此外，还探讨了处理非独立同分布数据、高维度问题和异构架构的联邦学习的当前训练挑战，并提出了解决相关挑战的几种解决方案。最后，我们
PDF2 years ago
工业物联网中基于组客户端选择的数据异构鲁棒联邦学习
本文提出了一个基于云边端的联邦学习框架 FedGS，利用分层结构和梯度二元置换算法选择工厂内的子设备，构建同质化的超级节点参与联邦学习训练，采用复合步骤同步协议协调这些超级节点内部和之间的培训过程，以提高在非独立同分布数据上的工业联邦学习性
PDF2 years ago
ICLRFedBE：将贝叶斯模型集成应用于联合学习
本文提出一种名为 FedBE 的基于贝叶斯推理的聚合算法，将局部模型聚合成全局模型，使得在非独立同分布数据和深度神经网络方面具有更强的表现，而该方法与最近关于正则化用户模型训练的研究兼容，可以轻松应用于联邦学习算法的 Aggregation
PDF4 years ago
能源感知模拟聚合用于带有冗余数据的联邦学习
本研究提出了使用模拟聚合降低通信成本和使用冗余数据解决非独立同分布数据问题的方法，并介绍一种在线的、考虑能源的动态工人调度策略，用于最大化每次迭代中进行梯度更新的工人数量的平均值，并基于 Lyapunov 优化分析了其性能。实验表明，在严格
PDF5 years ago
基于线性函数逼近的 SARSA 有限样本分析
本文研究了在非独立同分布数据下具有线性函数逼近的 SARSA 算法，并开发了一种新的技术来显式表征随着时间变化的马尔科夫转移核的一类随机逼近过程的随机偏差，从而提供了基于有限样本的 SARSA 算法的均方误差有限样本分析以及配适的 SARS
PDF5 years ago