local models | BriefGPT - AI 论文速递

关键词local models

搜索结果 - 13

FedDistill: 全局模型蒸馏以消除非独立同分布联邦学习中的局部模型偏差
FedDistill 是一个增强全局模型与本地模型之间知识传输的框架，专注于解决非均衡类分布的问题，通过群体蒸馏并将全局模型分解为特征提取器和分类器，确保本地模型不会忘记低频类别，而是更擅长准确识别和分类，通过全面实验验证了 FedDist
PDF3 months ago
Asyn2F: 异步联邦学习框架与双向模型聚合
设计并开发了一个具有双向模型聚合的异步联邦学习框架 Asyn2F，通过允许服务器异步聚合多个本地模型，得到新的全局模型，并允许训练工作者将新版本的全局模型聚合到正在训练的本地模型中，从而解决了异构训练工作者带来的延迟和过时信息问题，实验证明
PDF4 months ago
去中心化联邦学习的竞争优势攻击
分散联邦学习（DFL）使得客户（如医院和银行）在没有中央编排服务器的情况下共同训练机器学习模型。在每个全局训练轮次中，每个客户在自己的训练数据上训练本地模型，然后交换本地模型进行聚合。在本文中，我们提出了 SelfishAttack，一种新
PDF8 months ago
个性化生成网络的异构联邦学习
通过减少客户端之间的异质性，本研究提出了一种传递知识的方法，利用客户端专用生成器为每个客户端生成样本，以减少与其他客户端模型的冲突，从而构建出具有良好泛化能力的全局模型。
PDF10 months ago
AAAI使用类原型在联邦学习中解决数据异构性
本文提出了一种名为 FedNH 的新方法，通过组合类原型的均匀性和语义来改善在分类设置中的数据不均衡问题。实验证明了该方法对于局部模型的个性化和概括性都有显著的提高。
PDF2 years ago
实体消歧与实体定义
本文解决了 Entity Disambiguation 方向在仅仅使用 Wikipedia 标题作为文本表示的情况下，标题信息不足或相互区分度不够的局限性，并探讨了更加丰富的文本表达方式如何解决这一问题。作者认为，相比其他方法，采用 ext
PDF2 years ago
FedCos：面向场景的联邦优化增强算法用于性能提升
通过引入余弦相似性惩罚，FedCos 减少了本地模型的方向不一致性，并且可以自适应于各种非 IID 设置，提高了通信效率，并且在不同的 FL 场景下表现出了优异性能，包括减少通信轮数等。
PDF2 years ago
ICML通过全局正则化个性化实现解决联邦学习中客户端不平衡问题
本文提出了一种名为 Global-Regularized Personalization （GRP-FED）的方法，利用全局和本地模型各自的优势来有效处理分散客户端的长尾数据不均衡问题，实验结果表明，GRP-FED 在 MIT-BIH 和
PDF3 years ago
ICLRHeteroFL：用于异构客户端的计算与通信高效联邦学习
本文提出名为 HeteroFL 的新型联邦学习框架，旨在解决具有非常不同计算和通信能力的异构客户端的问题，并通过几种策略增强 FL 训练。通过在三个数据集上进行五个计算复杂性级别的三种模型架构的广泛实证评估，通过自适应分配子网络来提高 FL
PDF4 years ago
混合全局和局部模型的联邦学习
提出针对联邦学习模型的新型优化公式，通过寻求全局模型与本地模型之间的平衡，使各参与设备能够从其私有数据中学习，而不需要通信。此方法类似于联邦平均 /local SGD，但能够改善具有异构数据的问题的通信，同时发现个性化能够降低通信复杂度。
PDF4 years ago
非独立同分布数据上克服联邦学习中的遗忘问题
本文介绍了一种解决在非 i.i.d 情况下的联邦学习中局部模型漂移导致学习受阻的问题的方法，通过在损失函数中加入惩罚项，强制所有的局部模型收敛到共同的最优值，将 Catastrophic forgetting 的解决方案应用到联邦学习中，并
PDF5 years ago
局部贝叶斯优化实现可伸缩的全局优化
本文提出了一种名为 TuRBO 的算法来解决高维问题的全局优化，该算法利用一系列局部模型，通过隐式赌博方法对这些模型之间的样本进行原则性的全局分配，并在强化学习、机器人学和自然科学领域的问题上显著优于其他现有方法。
PDF5 years ago
使用耦合稀疏支持的线性模型进行人脸图像超分辨率重建
本文提出一种基于稀疏编码和多元岭回归的学习方法，其通过高分辨率流形的局部几何结构来学习线性模型，相较于使用低分辨率流形，该方法具有更好的人脸超分辨率表现和质量。
PDF9 years ago