为分布式机器学习学习可推广设备部署算法

Jun, 2019

为分布式机器学习学习可推广设备部署算法

Placeto: Learning Generalizable Device Placement Algorithms for Distributed Machine Learning

Ravichandra Addanki, Shaileshh Bojja Venkatakrishnan, Shreyan Gupta, Hongzi Mao, Mohammad Alizadeh

TL;DR本文提出了一个名为 Placeto 的强化学习方法，用于高效地找到分布式神经网络训练的设备位置，并且可以学习通用的设备放置策略，这种策略可以应用于任何计算图，并且实验结果表明，使用 Placeto 可以找到与现有方法找到的最佳放置相当或更优的放置，并且可以在同一族的图中实现无需重新训练来预测优化放置，从而消除了其他强化学习方法带来的大量开销。

Abstract

We present Placeto, a reinforcement learning (RL) approach to efficiently find device placements for distributed neural network training. Unlike prior approaches that only find a →

reinforcement learning device placement neural network training computation graph generalizable policy

发现论文，激发创造

设备放置优化与强化学习

本文提出了一种使用序列到序列模型来预测 TensorFlow 计算图中哪些操作应该在哪些可用设备上运行的方法，并以预测的放置方式的执行时间作为奖励信号来优化序列到序列模型参数，结果表明在基于 Inception-V3 的 ImageNet 分类和基于 RNN LSTM 的语言建模和神经机器翻译的任务中，使用该模型能够发现优于手动设置和传统算法方法的设备放置方案。

Jun, 2017

一种针对计算图学习设备放置的结构感知框架

我们提出了一个基于强化学习的新框架，用于任务设备放置，该框架利用从 OpenVINO 工具包中提取的较小的计算图，包括图粗化、节点表示学习和策略优化等五个步骤，并结合了图表示学习和个性化图划分的模型变种，通过使用推荐设备放置的执行时间来制定奖励，多个实验表明该方法具有灵活性和有效性。

May, 2024

GDP: 数据流图的通用设备放置

本文提出了一种端到端的基于图神经网络的可扩展顺序关注机制，并使用超前网络在每个独立图上进行微调，达到了优于人类专家和先前技术的 16% 平均改善和 15 倍更快的收敛速度，从而实现了有关大型神经网络和设备放置的计算成本和效率的突破。

Sep, 2019

GiPH: 适应性异构计算的通用布局学习

GiPH 是一种学习方法，利用图形神经网络和图形表示法表示信息，学习动态设备集群中的好位置，使应用完成时间最短。GiPH 能够找到比其他基于搜索的部署策略更快的位置，完成时间降低了 30.5%。

May, 2023

DG-RePlAce：数据流驱动的 GPU 加速机器学习加速器分配框架

本研究提出了一种基于 GPU 加速和 OpenROAD 基础设施的快速全局布局框架 DG-RePlAce，通过利用机器学习加速器的固有数据流和数据路径结构，实现了路由线长度减少 10％（7％）和总负预留时间减少 31％（34％），并且全局布局速度更快，总运行时间与 DREAMPlace 相当。实证研究还表明，对于机器学习加速器，相较于 RePlAce 和 DREAMPlace，在后续路由中的改进效果可能超出原始应用。

Mar, 2024

芯片设计中联合学习解决放置和路由问题

通过深度强化学习方法 DeepPlace 和 DeepPR，结合梯度优化和强化学习，编码输入宏单元的全局图层和本地节点层信息的多视图嵌入模型，并通过鼓励探索的随机网络蒸馏方法，有助于解决现代芯片设计过程中的放置和路由问题。

Oct, 2021

使用深度强化学习进行芯片布局

本文提出了一种基于学习的芯片布局方法，使用强化学习将芯片画布上芯片网络节点的摆放视作问题，并训练代理人生成以往未见芯片块的优化布局，最终旨在最小化能耗、性能与面积（PPA）。实验结果表明，该方法可在 6 小时内生成可与人工专家相媲美的布局。

Apr, 2020

学习如何将新物体放置在场景中

本文针对机器人在无序的环境中进行多物体放置提出了一种学习方法，通过设计适当特征和运用图形模型对各种属性进行编码，并在模型中运用整数线性规划进行推理和求解，最终在 16 个品类、40 个区域内对 98 个物体进行了广泛的评估和实验，其结果表明本方法在对已知物体放置情况的成功率达 98%，并且在对新物体进行稳定放置的情况下成功率为 82%。

Feb, 2012

RoutePlacer：基于图神经网络的端到端可布线感知布局器

RoutePlacer 通过训练 RouteGNN（一个自定义图神经网络）来预测布局的可路由性，并在布局过程中实现端到端的可路由性优化，从而减少 Total Overflow 并提高布线质量。

Jun, 2024

Moirai：面向异构设备的分布式推理优化放置

Moirai is a device placement algorithm that leverages runtime inter-operator fusion to render a coarsened computation graph, reducing the search space and improving end-to-end inference performance for Deep Neural Networks.

Dec, 2023