- 并行与分布式非凸优化方法 -- 第二部分:应用
本论文提出了一种新的基于内部凸近似的算法框架来最小化一个非凸(顺滑)目标函数的方法,该算法用于一些通信网络中的资源分配问题,并开发了一类新的分布式算法,通过在基站之间有限的信号交换实现优化,这些算法可以始终收敛于前述类别的非凸问题的 d - - LDA 模型的流式吉布斯抽样
本研究提出了基于 Gibbs 采样的流式主题模型在线学习方法,并与传统批量方法和 SVB 在线方法进行了对比,结果表明该方法的 perplexity 表现良好,同时提出了一种可扩展的分布式算法,DSGS,通信复杂度小于 SVB。
- FireCaffe: 在计算集群上深度神经网络训练的近线性加速
本文介绍了 FireCaffe,一个可以在 GPU 集群上成功扩展深度神经网络训练的工具,并提出了一些最佳实践方法以帮助比较不同缩放和加速深度神经网络训练方法的进展。在 ImageNet 上训练 GoogLeNet 和 Network-in - NIPS面向贝叶斯非参数模型的流式分布式变分推断
提出了一种用于创建基于贝叶斯非参数模型的流式分布式推理算法的方法,其中处理节点接收数据小批量序列,为每个小批量计算变分后验,并对中央模型进行异步流式更新。
- 局部边翻转法扩展算子
本文针对给定 n 个节点和 d 个邻居的无向图,提出了一种分布式的算法,使用随机翻转来改进图的连通性以获得新的拓展图,且经研究表明可以在 O(n ^ 2 d ^ 2 log n)的步骤内实现高概率有效。
- 分布式次模最大化的新框架
通过将现有算法从顺序设定应用到分布式设定,仅利用恒定数量的 MapReduce 循环,在许多设置中实现了接近最优的近似比率。我们的技术还为满足矩阵约束的非单调最大化提供了快速的顺序算法。
- 随机块坐标下降方法解决网络线性约束最优化问题
本文介绍了基于随机块坐标梯度下降的并行优化算法,能够快速高效地解决大规模线性可分凸问题在网络结构上的应用,收敛速率与更新组件 $ au$ 线性相关,并探讨了稀疏半定规划解法和具体应用。
- 一种用于图信号重构的分布式跟踪算法
本篇论文主要介绍了一种分布式最小二乘重建算法,用于重建基于样本选择节点中的时间变化的带限图信号。该算法可以追踪时间变化的图形信号,对于时不变信号可以完美地重建,并在合成数据和实际传感器网络数据上进行了实验验证。
- 通过交替方向乘子法的受限张量分解并行算法
本篇研究提出了一种基于 ADMoM 的约束张量分解框架,构建分布式算法,有效节省计算量,可以更容易地纳入其他类型的约束条件下优化计算,其中以非负性为基线限制,实践结果非常鼓舞人心,说明 ADMoM 非负张量分解 (NTF) 作为一种替代非常 - 网络上的多任务扩散适应
本文介绍了利用扩散策略开发分布式算法解决多任务问题的方法,通过最小化适当的均方误差标准和 L2 正则化共同推断在网络覆盖区域内需要推断的多个最佳参数向量。在本文中,分析了算法在平均值和均方误差意义下的稳定性和收敛性,并进行了模拟以验证理论发 - 分布式最小割近似
本文通过分布式算法研究了在标准同步消息传递模型下,计算近似的最小边割问题,提出了随机分层技术作为分析随机边采样的一种简单方法,并给出了两个分布式算法的时间复杂度,同时还强化了上一篇研究的下界。
- REFIM:异构无线接入网络中的实用干扰管理
研究了在异构网络中小型细胞相互干扰的问题,提出了一种低复杂度的分布式干扰管理算法 REFIM,可使细胞边缘用户的吞吐量提高超过 40%,整体性能提高 10~107%。
- 受限共识
本研究提出分布式算法,可用于在具有时间变化连接性的网络上,将多个代理的估计与特定值对齐,并着重研究约束问题的实现与收敛性分析。该算法可用于处理一致性问题或优化问题,其中全局目标函数为局部客体函数的组合。最终,该算法表现出了良好的收敛率与收敛 - 分布式一致性与控制的融合速度
本文研究了分布式迭代算法在共识问题和平均问题中的收敛速度,重点是平均问题。首先考虑了固定通信拓扑的情况。证明了一种简单的共识算法适应于平均算法,并且对于各种线性、时不变和分布式共识方法的最坏情况收敛时间提供下界,并提供一种基本匹配这些下界的