device placement | BriefGPT

关键词device placement

搜索结果 - 8

一种针对计算图学习设备放置的结构感知框架
我们提出了一个基于强化学习的新框架，用于任务设备放置，该框架利用从 OpenVINO 工具包中提取的较小的计算图，包括图粗化、节点表示学习和策略优化等五个步骤，并结合了图表示学习和个性化图划分的模型变种，通过使用推荐设备放置的执行时间来制定
PDFa month ago
Moirai：面向异构设备的分布式推理优化放置
Moirai is a device placement algorithm that leverages runtime inter-operator fusion to render a coarsened computation gr
PDF7 months ago
FlexMoE: 通过动态设备放置实现大规模稀疏预训练模型训练的扩展
本文提出了一种名为 FlexMoE 的 DNN 训练框架，通过动态专家管理和设备布置机制，以及调度模块来优化大规模预训练模型训练过程中动态数据流所导致的效率问题，实验表明其在自然语言处理模型和视觉模型等领域具有较强的可扩展性和优越的性能。
PDFa year ago
Celeritas: 面向大型数据流图的快速优化器
Celeritas 是一个快速的框架，通过一系列调度算法优化大型模型的设备配置，减少设备配置时间和提高运行效率。
PDF2 years ago
使用高效的图遍历顺序在设备放置中加速模型并行训练
本研究探讨了神经网络图遍历顺序对设备部署的影响，特别是在模型并行化中如何选择最佳遍历顺序，以提高不同神经网络家族的训练时间。
PDF2 years ago
GDP: 数据流图的通用设备放置
本文提出了一种端到端的基于图神经网络的可扩展顺序关注机制，并使用超前网络在每个独立图上进行微调，达到了优于人类专家和先前技术的 16% 平均改善和 15 倍更快的收敛速度，从而实现了有关大型神经网络和设备放置的计算成本和效率的突破。
PDF5 years ago
为分布式机器学习学习可推广设备部署算法
本文提出了一个名为 Placeto 的强化学习方法，用于高效地找到分布式神经网络训练的设备位置，并且可以学习通用的设备放置策略，这种策略可以应用于任何计算图，并且实验结果表明，使用 Placeto 可以找到与现有方法找到的最佳放置相当或更优
PDF5 years ago
ICML设备放置优化与强化学习
本文提出了一种使用序列到序列模型来预测 TensorFlow 计算图中哪些操作应该在哪些可用设备上运行的方法，并以预测的放置方式的执行时间作为奖励信号来优化序列到序列模型参数，结果表明在基于 Inception-V3 的 ImageNet
PDF7 years ago