关键词efficient communication
搜索结果 - 6
- 揭示效率：在非独立同分布联邦学习中学习显著稀疏模型
我们提出了显著稀疏联合学习（SSFL），一种用于稀疏联合学习并具有高效通信的简化方法。在非独立同分布的情况下，SSFL 在训练之前利用在本地客户端数据上分别计算的参数显著性得分，并进行聚合，以确定全局掩码。在客户端和服务器之间每一轮只传递稀 - 运用心灵理论进行语用语义交流的推理
提出了一种实用的语义通信框架，通过理论心智（ToM）模拟接收者的神经网络，使用动态两级反馈机制实现有效的面向目标的信息共享，优化信道编码过程，提供语义反馈级别并减少比特量，从而实现高效的通信。
- 使用抖动进行通信高效的隐私联邦学习
在受信任的聚合器模型中，通过在客户端使用基于减法抖动的量化方案，我们提出了一种既能保护隐私又能确保高效通信的解决方案，实现了两个目标的同时。我们证明了这种方案在复制聚合器中常规噪声添加过程方面的有效性。这意味着与传输完整精度梯度并使用中心噪 - 探究文本熵速率不变性
通过神经语言模型重新评估 Genzel 和 Charniak 在信息熵速率恒定性原则方面的主张，未能发现明确支持熵速率恒定性的证据，对一致信息密度假设和有效交流的语言学理论的影响进行了实验研究。
- 使用对比学习方法的预训练模型联邦学习
本文提出了一种轻量级框架，使客户端通过融合多个预训练模型生成的表示而不是从头开始训练大规模模型来共同学习；我们设计了一种基于原型的对比学习（FedPCL）方法，以原型为共享信息进行知识传递，从而提高各个客户端利用现有模型的能力并保持通信效率 - 跨语言单词序变化反映了依赖性和信息局部性的进化压力
通过 80 种语言的语料和系统发展模型，研究说明了单个语言中词序变化的频率分布和演化，说明词序变异反映了语言在维持总体有效性方面优化竞争压力的不同方式。研究结果表明，语法结构和使用在有限的认知资源下相互协调以支持有效沟通。