MMDec, 2017

用于分布式计算和滞后服务器的块对角和 LT 编码

PDF
TL;DR本文介绍两种分布式计算方案：基于 MDS 代码的矩阵乘法分块编码方案和基于 Luby Transform 码的 inactivation 译码方案。数值结果表明，本文所提出的方案在截止日期内的性能优于文献中的其他方案。
distributed computingmatrix multiplicationmds codesluby transform codesdeadline
发现论文，激发创造
  • 具有 Stragglers 的 Map-Shuffle-Reduce 系统的延迟 - 通信权衡改进

    在分布式计算系统中，通过编码存储的数据可以减少迟滞服务器造成的延迟，并减少在洗牌阶段的服务器之间的通信负载。本文通过内部的重复编码来提高外部最大距离可分离（MDS）码的速率，进而提高洗牌阶段的多播机会，从而改善了最佳延迟和通信开销之间的平衡。

    Aug, 2018

  • 面向带延迟的服务器分布式计算的统一编码框架

    本文介绍了一种针对分布式计算的编码框架，通过在某些线性计算任务中引入 “计算延迟” 和 “通信负载” 之间的权衡来解决延迟和通信负载问题，从而实现在延迟和负载之间取得权衡来执行分布式计算任务。

    Sep, 2016

  • 使用编码加速分布式机器学习

    探究编码算法在分布式机器学习中的应用，研究矩阵乘法和数据洗牌两种算法中应用编码技术减少 straggler 和 communication bottlenecks 时的优化效果，理论分析和实验结果均证明编码算法具有显著的优势。

    Dec, 2015

  • 利用 Reed-Solomon 码改进分布式梯度下降

    本文介绍了一种分布式梯度下降方法，该方法使用编码理论并考虑存在 stragglers 的情况，以恰当的机器学习问题为应用场景，理论证明了在给定机器计算能力的情况下，可以通过最少数量的机器 $f$ 通过 $O (f^2)$ 解码算法恢复梯度，并提供了一个理论模型来最小化方案参数，从而最小化期望等待时间。最终，数值实验表明了该方法的优越性。

    Jun, 2017

  • 通过子空间干扰对分布式存储中的 MDS 码进行最优修复

    本文提出了一种新的使用排序编码子矩阵的 MDS 码构造方法，该方法可用于支持恢复单个磁盘故障的最小修复带宽的设计，同时，提出了在线性码中实现子空间干扰对齐的新框架。

    Jun, 2011

  • MDS 队列：分析纠错码的延迟性能

    本文研究基于 MDS 码的数据存储系统，通过队列理论分析其表现，并提供上下界的调度策略。同时，利用 MDS 队列的框架分析了分布式数据存储中不同方法执行降级读取的情况。

    Nov, 2012

  • 通过排列度公式码实现分布式存储的误差容错

    本篇论文提出了一种基于最大秩距（MRD）码和最优修复最大距离可分（MDS）数组码的级联编码方案，以应对分布式存储系统中的对抗性错误，在保证数据容错性的同时，减少节点修复过程中的数据传输损失。该方案不仅可应对一次替换内容的对抗攻击，还可通过结合子空间签名机制，适应多次污染数据类型的对抗攻击。最后，该论文还提出基于 MRD 码的构造方法，构建出可在本地修复并容忍对抗性错误的标量码。

    Feb, 2012

  • 编码稀疏矩阵乘法

    本文提出了一种名为 “sparse code” 的新的编码计算策略，旨在在大规模分布式矩阵乘法问题中处理分布式计算过程中的延迟问题和极高的计算损耗，实验结果证明了该策略比传统编码策略和未编码情况下的方法效果更好。

    Feb, 2018

  • 基于 Hadamard 设计的最优擦除码修复

    使用 Hadamard 矩阵构建首个具有最优恢复性能的 2 - 偶校验 MDS 存储代码，扩展到设计实现系统节点失效的 m - 奇偶校验 MDS 代码。

    Jun, 2011

  • 面向并行和分布式计算的编码卷积在时限内的应用

    本文研究使用并行处理单元在 “关键时间” 分布式系统中计算两个长向量的卷积问题，提出基于编码的方案，有效提升了抗 Stragglers 能力，能显著提高在钟摆时间内完成计算的概率，并使用渐进失效指数分析技术，建立了一个新的分布式系统评估方法。

    May, 2017