distributed setting | BriefGPT

关键词distributed setting

搜索结果 - 10

通过草图和偏差降低在小空间中的分布式最小二乘
通过设计最小化估计量的偏差而不是误差的素描方法，在分布设置中绕过大小减小的基本限制，我们给出了一个稀疏素描方法，使用两次数据通过以最优空间和当前矩阵乘法时间恢复几乎无偏的最小二乘估计量，从而实现通信效率更高的分布式平均算法，并直接改进了几种
PDF2 months ago
有限和平凡导数光滑优化的复杂性研究
本文研究了一种优化问题，在多项式朗托泽维奇条件下，通过梯度方法在分布式环境中找到次优解，提出了一个去中心化一阶方法，并给出了相应的下界。
PDF5 months ago
基于动量方差缩减的局部随机双层优化
本文研究分布式环境下的联邦双层优化问题，并针对性地提出了 FedBiO 和 FedBiOAcc 两种优化算法，用于解决团体公平的联邦学习任务，数值实验表明，与其他基线算法相比，该算法在性能上表现更优。
PDF2 years ago
AAAI分布式差分隐私决策树学习的可扩展和可证明精确性算法
本文提出了分布式环境下差分隐私保护决策树学习的第一个证明准确的算法: DP-TopDown，并介绍了两种分布式实现方法。这些研究成果提供了差分隐私保护下的顶部 - 向下决策树学习的效用保证，并揭示了在隐私、精度和概括性之间学习私有决策树的权
PDF4 years ago
ICML从本地 SGD 到本地定点方法的联邦学习
本研究探讨了在分布式环境中使用固定步数和随机计算两种策略来实现平均操作符的固定点，以适应联邦学习等需要，经过收敛性分析和实验证明了我们方法的优势。
PDF4 years ago
分布式动量算法在拜占庭容错学习中的应用
本研究在分布式计算中证明了将 Momentum 方法实现在工作节点上，有利于提高抗拒绝服务攻击的聚合规则及提高鲁棒性的 SGD 分布式训练。
PDF4 years ago
基于洗牌的分布式差分隐私
研究了关于敏感数据统计计算的可扩展、强健协议设计的问题，主要探讨了如何在分布式环境中设计差分隐私协议的最佳方式，并提出了一种介于本地模型和中央模型之间的混洗模型，通过为用户提供匿名信道来随机排列一组用户提供的消息，实现与中央模型相同的精度，
PDF6 years ago
使用随机傅里叶特征在 RKH 空间中进行网络分布式在线学习
我们提出了一种新颖的扩散方案，用于在网络上进行基于内核的在线学习，通过使用 Random Fourier Features，将解决方案近似为固定大小的向量，并提供了渐近收敛和网络遗憾的限制条件。
PDF7 years ago
无梯度训练神经网络：一种可扩展的 ADMM 方法
本文提出了一种不依赖于梯度的训练方法，该方法使用交替方向方法和 Bregman 迭代来训练神经网络，以解决传统优化算法在大规模集群设置中不适用的问题，并在分布式环境中实现了线性加速。
PDF8 years ago
MLI：分布式机器学习 API
MLI 是一个应用程序接口，旨在解决在数据中心计算的分布式设置中构建机器学习算法的挑战。相对于现有系统，我们的初步结果显示，使用此接口可以仅具有最小的复杂性和高度竞争性的性能和可伸缩性来构建广泛的常见机器学习算法的分布式实现。
PDF11 years ago