heterogeneous models | BriefGPT

关键词heterogeneous models

搜索结果 - 6

基于 MARL 的能源感知联邦学习：一种模型和客户的双重选择方法
提出了一种考虑能量限制的分布式学习框架 DR-FL，通过采用双选择方法，使得参与的设备可以根据其计算能力和能量容量在多智能体强化学习的方式下有效地对全局模型做出贡献，从而在大规模 AIoT 系统的能量限制下实现异构模型之间的最大知识共享和改
PDF2 months ago
一对多：在知识蒸馏中弥合异构架构的差距
通过使用居中核对齐方法比较异构教师和学生模型之间的特征学习情况，我们观察到显著的特征差异，进而揭示了以往基于暗示的方法在跨体系结构蒸馏中的无效性。为了解决在异构模型蒸馏中的挑战，我们提出了一种简单而有效的一对多蒸馏框架（OFA-KD），通过
PDF8 months ago
基于联邦学习的分布式计算模型：融合异构模型与联盟区块链用于解决时间变化问题
本文提出了一种基于联盟区块链网络的分布式计算模型 (DCM)，旨在提高整体模型的可信度和异构模型之间的有效协调，并设计了一种分布式分层集成 (DHI) 算法来实现全局解决方案过程，实验结果表明 DCM 模型优于许多基于联邦学习框架的最新模型
PDFa year ago
FedIN: 模型异构的联合中间层学习
提出了一种新的联邦学习方法 FedIN，支持异构模型和 IN 训练，并通过凸优化问题解决了梯度分歧问题。实验结果表明，在异构模型环境下，FedIN 相比目前先进的算法表现最佳。
PDFa year ago
异构模型的 Top-K 推荐中的蒸馏
本研究提出了一种名为 HetComp 的知识蒸馏框架，用于将异构模型的整体知识转移给一个轻量级模型，以减少资源成本和推理延迟，该框架使用动态知识构建和自适应知识传输提供逐步更难的排序信息，并通过全面实验表明该框架能够显著提高精度和泛化性能。
PDFa year ago
FedClassAvg: 异构神经网络的个性化联邦学习中局部表示学习
本研究提出一种名为联邦分类器平均（FedClassAvg）的个性化联邦学习方法，通过聚合分类器权重以增强特征空间的决策边界来使得有不同神经网络架构、实现非独立同分布数据（non-iid）学习任务的客户端可以学习稀缺标签，同时应用本地特征表示
PDF2 years ago