- SALSA-CLRS:一种稀疏且可扩展的算法推理基准
我们介绍了对 CLRS 算法学习基准的扩展,重点是可扩展性和稀疏表示的利用。我们提出了 SALSA-CLRS,这是当前 CLRS 基准的一个扩展,具有可扩展性和稀疏性的特点。我们的方法包括从原始 CLRS 基准中调整的算法,并引入了来自分布 - 深度强化学习的可扩展有限差分方法
本研究提出了一种将旧数据运用于有限差分算法中的新方法,从而产生出一种可伸缩且避免空闲时间或浪费计算的算法,解决了分布式黑盒优化算法的瓶颈问题。
- 高效通讯的分布式鲁棒性分布式学习
本文介绍了一种分布式学习算法 —— 去中心化单环梯度上升 / 下降算法(AD-GDA),以解决设备之间数据分布不均导致合作训练模型性能下降的问题,并采用压缩共识方案提高通信效率,并给出了平滑凸和非凸损失函数的收敛性保证。
- 动态图神经网络的高效扩展
本文介绍了一种在大规模动态图上训练分布式算法的方法,采用图差分策略和数据分布技术极大地降低了传输和运行时间,并在使用 128 个 GPU 的系统上取得了高达 30 倍的加速。
- 基于原始对偶框架的去中心化随机优化
本文提出了一种基于原始 - 对偶框架的分布式优化算法,无需使用难以构建的双重随机混合矩阵,通过维护对偶变量来跟踪相邻节点之间的差异,使用这种方法构建的分布式算法比采用梯度跟踪的算法具有更好的性能。
- 基于深度神经网络的通信高效分布式随机 AUC 最大化
本文提出了一种基于非凸凹重构的 AUC 最大化的通信高效分布式优化算法,通过减少通信轮次提高了算法的并行性能,并在多个测试数据集中展示了其有效性和可靠性。
- 泰勒展开策略优化
探究 Taylor 展开在强化学习中的应用,提出了泰勒展开策略优化模型,将其作为 TRPO 的一个一阶特例,并与离线评估相关联,最终表明了该模型的修改可以提高几个最先进的分布式算法的性能。
- ICLRSEED RL:可伸缩高效的深度强化学习与加速化的中心推理
SEED 是一种现代可扩展强化学习代理程序,采用分布式算法 IMPALA/V-trace 和 R2D2,可以在 Atari-57、DeepMind Lab 和 Google Research Football 上进行评估,并且比当前方法更具 - 分布式学习中的拜占庭鲁棒随机梯度下降:一种基于 Lipschitz 的逐坐标中位数方法
本文提出了一种新的利普希茨坐标中值方法 (LICM-SGD) 来降低拜占庭攻击对分布式学习中基于随机梯度下降 (SGD) 的分布式算法的影响。该算法不需要关于攻击者数量和利普希茨常数的任何信息,在实现中具有吸引力,并且在多分类逻辑回归和卷积 - SIGIR区块分布式梯度提升树
提出了基于块的分布式梯度提升树算法(GBT),以解决传统分布式 GBT 算法中针对数据点而非特征的可扩展性问题。该算法针对数据稀疏性和数据特征进行了定制,通过适应 Quickscorer 算法在块分布式设置中的使用,可在稀疏数据中实现通信成 - MM带有大量噪音数据的分布式 k - 聚类
在分布式环境中,对 $k$-center/median/means 聚类与 outliers 问题 (或 $(k, z)$-center/median/means 问题) 进行研究,提出了一种改进算法,能够更好地解决 communicati - 基于良好条件基础的 Minkowski $p$- 范数流式和分布式摘要
本文研究了适用于不同的 lP 范数的近似线性代数问题,提出了一种同时适用于每个 p ≥ 1 的确定性算法,并将其应用于多种问题,如 lP 回归,逐元素 l1 低秩逼近和近似矩阵乘法。
- 稀疏随机图中的近似梯度编码
通过稀疏图构建的计算简单的渐变编码可以有效增强算法对滞后节点的鲁棒性。
- 多智能体分布式终身学习用于集体知识获取
本文提出了一种利用多智能体网络进行分布式的集体终身学习算法(CoLLA),通过分布式地共享学习知识,在维护本地数据隐私的同时,在多个任务上表现出更好的性能,同时提供了理论保障。
- ByRDiE:去中心化学习的拜占庭容错分布式坐标下降算法
本研究开发和分析了一种名为 ByRDiE 的算法,使得在分布式学习中存在 Byzantine 故障的情况下,能够高效地对高维数据集进行分布式学习,理论分析和数值实验说明了它在凸性和非凸性设置中的实用性。
- 正态逼近中的分布统计估计和收敛速度
本文提出了一类新的分布式统计估计算法,利用分治策略实现,表明分治策略的一个关键利益是健壮性,并建立了这些分布式算法的性能与正态逼近的收敛率之间的联系,并证明了非渐近偏差保证和极限定理,针对中位数估计和最大似然估计进行了例证和性能保证
- 主特征空间的分布式估计
本文提出了一种分布式 PCA 算法,并研究了其结果的偏差和方差,证明了在数据分布具有对称创新的情况下,经验顶部特征空间是没有偏差的,且在机器数量不过多时,分布式 PCA 算法表现与整体聚合 PCA 算法相当。
- 基于对象模型的轻量级算法实现分布式映射及隐私保护与通信约束
本文提出了分布式算法和对象模型的应用来协调机器人协作建图,以减少通信成本和提高效率。
- 局部可取样的内容是什么?
本研究通过分布式算法从 Gibbs 分布中采样,提出了两个基于马尔科夫链的算法,并探讨了在 LOCAL 模型中采样的问题。此外,研究了在最大度数为 Delta 的情况下,采样独立集的最小下界 diam,最终证明了构造本地可校验标签与采样之间 - ICML点对点网络中线性赌博机的分布式聚类
本论文提出了两种分布式置信球算法,用于解决具有有限通信能力的对等网络中的线性赌博问题。这两种算法通过实验在多个真实数据集上证明了其相对于最先进技术的性能表现。