ICMLJun, 2017

设备放置优化与强化学习

PDF
TL;DR本文提出了一种使用序列到序列模型来预测 TensorFlow 计算图中哪些操作应该在哪些可用设备上运行的方法，并以预测的放置方式的执行时间作为奖励信号来优化序列到序列模型参数，结果表明在基于 Inception-V3 的 ImageNet 分类和基于 RNN LSTM 的语言建模和神经机器翻译的任务中，使用该模型能够发现优于手动设置和传统算法方法的设备放置方案。
neural networksdistributed learningtensorflowdevice placementsequence-to-sequence model
发现论文，激发创造
  • GDP: 数据流图的通用设备放置

    本文提出了一种端到端的基于图神经网络的可扩展顺序关注机制，并使用超前网络在每个独立图上进行微调，达到了优于人类专家和先前技术的 16% 平均改善和 15 倍更快的收敛速度，从而实现了有关大型神经网络和设备放置的计算成本和效率的突破。

    Sep, 2019

  • 一种针对计算图学习设备放置的结构感知框架

    我们提出了一个基于强化学习的新框架，用于任务设备放置，该框架利用从 OpenVINO 工具包中提取的较小的计算图，包括图粗化、节点表示学习和策略优化等五个步骤，并结合了图表示学习和个性化图划分的模型变种，通过使用推荐设备放置的执行时间来制定奖励，多个实验表明该方法具有灵活性和有效性。

    May, 2024

  • 为分布式机器学习学习可推广设备部署算法

    本文提出了一个名为 Placeto 的强化学习方法，用于高效地找到分布式神经网络训练的设备位置，并且可以学习通用的设备放置策略，这种策略可以应用于任何计算图，并且实验结果表明，使用 Placeto 可以找到与现有方法找到的最佳放置相当或更优的放置，并且可以在同一族的图中实现无需重新训练来预测优化放置，从而消除了其他强化学习方法带来的大量开销。

    Jun, 2019

  • 使用高效的图遍历顺序在设备放置中加速模型并行训练

    本研究探讨了神经网络图遍历顺序对设备部署的影响，特别是在模型并行化中如何选择最佳遍历顺序，以提高不同神经网络家族的训练时间。

    Jan, 2022

  • 图神经网络与强化学习在主动应用图像布局中的应用

    该论文将云计算转向云边界连续体的转变与数据密集型和交互式应用程序所面临的新机遇和挑战联系起来。作者提出了一种将图神经网络和强化学习中的演员 - 评论家方法相结合的主动式图像部署方法，并通过实证评估和与其他解决方案的比较来验证其有效性。结果表明，这种方法在应用程序部署方面始终取得了卓越的成果。

    Apr, 2024

  • 使用深度强化学习进行芯片布局

    本文提出了一种基于学习的芯片布局方法，使用强化学习将芯片画布上芯片网络节点的摆放视作问题，并训练代理人生成以往未见芯片块的优化布局，最终旨在最小化能耗、性能与面积（PPA）。实验结果表明，该方法可在 6 小时内生成可与人工专家相媲美的布局。

    Apr, 2020

  • SplitPlace: 移动边缘环境中大规模神经网络的 AI 增强分裂和放置

    这篇论文提出了一种基于强化学习的 AI 策略 SplitPlace，可以智能决策基于边缘计算的需求，采用分层或语义分割策略，对神经网络进行分割并将其部署在资源受限的移动边缘设备上，实现高效可扩展的计算。实验表明，SplitPlace 可以显著提高平均响应时间、截止日期违规率、推断准确度和总奖励达 46％，69％，3％和 12％。

    May, 2022

  • 使用移动 GPU 进行设备端神经网络推断

    本文介绍了如何利用手机上普遍存在的 GPU 加速器，在 Android 和 iOS 设备上实现深度神经网络的实时推断，并将其集成到开源项目 TensorFlow Lite 中。

    Jul, 2019

  • 用 Transformer 学习解决气候传感器布置问题

    利用深度强化学习方法自动学习改进性启发式算法，提出一种针对环境监测和灾害管理的传感器布置方法，与现有方法相比，证明了其在生成高质量解决方案方面的有效性和优越性，为应用先进的深度学习和强化学习技术解决关键气候传感器布置问题提供了有希望的方向。

    Oct, 2023

  • Moirai：面向异构设备的分布式推理优化放置

    Moirai is a device placement algorithm that leverages runtime inter-operator fusion to render a coarsened computation graph, reducing the search space and improving end-to-end inference performance for Deep Neural Networks.

    Dec, 2023