本文研究了在分布于多个节点上的标记数据上学习分类器的问题,目标是找到一个单一的分类器,同时最小化节点间的通信,提出了几种基于采样的解决方案和一些双向协议,以及针对分布在两个或多个节点上的无噪声数据的核心问题。
Feb, 2012
研究了在分布式学习中,如何在总通信次数亚线性的情况下通过镜像下降与随机稀疏化 / 量化迭代相结合的算法来实现线性模型的最优误差学习,从而探讨了高维环境下分布式学习的可行性。
Feb, 2019
讨论分布式数据的 PAC 学习问题,分析了涉及的基本通信复杂性问题,包括教学维度和错误绑定。针对特定概念类别,如合取、奇偶函数和决策列表等,给出上下界限。讨论了如何通过增强来在分布式环境下进行一般性通信,以及如何在不确定环境下实现低通信回归。同时,还考虑了隐私性,包括差分隐私和分布式隐私。
Apr, 2012
本文提出了基于多项式权重更新的两方协议,并且展示了一般的算法设计方法来解决在分布式数据中的高效学习问题。
本文研究了分布式模式下的图形和几何聚类问题,并给出了两个模型中几乎是最优的协议,突出了广播通道在聚类问题中的惊人能力,我们的算法已在实际数据集上得到了验证。
Feb, 2017
基于分层系统架构,解决面临通信故障和对抗攻击的非贝叶斯学习问题,并提出适应分布式网络的算法
Jul, 2023
本文探讨了在分布式环境中统计模式识别的几个不同模型,着重考虑了通信模型和智能学习体系结构对于智能体决策规则和融合规则的影响,同时探索了 Stone 定理在分布式环境中的适用性。
Mar, 2005
本研究侧重于分散学习的通信方面,探讨了广播传输和概率随机访问策略对分布式随机梯度下降 (D-SGD) 收敛性能的影响,结果表明,优化访问概率能够极大地加速系统的收敛速度。
May, 2023
本研究证明了置信传播算法在容量约束最小费用网络流问题上的全多项式运行时间,还证明了算法的随机逼近方案,这提供了理论依据支持置信传播算法成为解决一类重要的优化问题的有吸引力的方法。
Apr, 2010
基于可扩展的动态传递消息技术,介绍了一种通用学习方法,用于从真实数据中学习传播模型的网络结构和参数,并解决了未知网络结构、噪声数据、缺失时间观测以及最小化所需样本数量的模型选择等挑战。
Dec, 2023