MMJun, 2020

序列到序列模型用于工作量干扰

PDF
TL;DR本文提出了一种基于长短时记忆神经网络的序列到序列模型的方法，用于预测共同执行作业的足迹对资源的使用情况和执行时间的变化，并在高性能计算基准测试中进行了验证，表明该模型能够正确地识别以前看到和未看到的共同调度作业的资源使用趋势。
co-schedulingdata-centersresource managementsequence-to-sequence modelshigh performance computing
发现论文，激发创造
  • 程序阶段的模型复杂度

    在资源受限的计算系统中，序列预测模型必须在严格约束下运行。我们提出了一种理论和相关的实证方法，探索一种特定类型机器学习模型（如深度神经网络）的成本与预测质量之间的权衡空间，以增加对资源受限任务模型的理论和实践限制的认识。

    Oct, 2023

  • 基于深度强化学习的作业车间调度：一种序列到序列方法

    通过自动学习调度规则，本文提出了一种原创的端到端深度强化学习方法来解决作业调度的 NP - 难度问题，该技术受到自然语言编码器 - 解码器模型的启发，可在最小干预下用于处理其他不同的优化作业调度任务。研究结果表明，我们在利用优先调度规则方面超过了许多传统方法，并且在最先进的深度强化学习方法中取得了有竞争力的结果。

    Aug, 2023

  • 基于双边邻居协同关系建模的顺序推荐

    提出了一种名为 SCoRe 的依靠用户行为和物品属性历史序列信息挖掘高阶协作信息的推荐模型，实验结果表明其在三个真实的大规模数据集上表现均优于强基线模型。

    Nov, 2019

  • 分布式机器学习集群中的在线作业调度

    本文针对分布式机器学习系统的调度问题，使用参数服务器框架设计了一种在线算法，以最大化所有作业的整体效用，并在跟踪驱动模拟和实验测试中证明了其优越性。

    Jan, 2018

  • 时序学习的时间相关任务调度

    本文介绍了一种可学习的调度程序，用于序列学习，可适应地选择辅助任务以提高主任务的性能，通过双层优化联合训练，实验证明该方法显着提高了同时机器翻译和股票趋势预测的性能。

    Jul, 2020

  • 多资源多机器作业调度的深度强化学习

    本文在最小化数据中心网络中的工作调度时间方面进行了深入研究，提出了一种基于深度强化学习的改进方法并将其扩展到多个服务器群集，结果表明，相比于传统的资源分配算法，深度强化学习方法在各种复杂环境中有着出色的性能表现。

    Nov, 2017

  • 时间序列的序列到序列建模基础

    本论文提供了第一个对基于序列到序列模型进行时间序列预测的理论分析，比较了这种方法与传统时间序列模型之间的区别，为实践者在不同建模方法中做出量化指导。

    May, 2018

  • 使用循环神经网络对句子顺序和连贯性建模

    通过端到端的无监督深度学习方法，可以有效地建立并评估理解连贯文本结构的模型，从而实现有用的文本表示方法，有利于句子语义相似性和重复检测等 NLP 任务的完成。

    Nov, 2016

  • 卷积序列到序列非侵入式负荷监测

    提出了一种卷积序列到序列的非侵入式负载监测模型，并成功地将其应用于 REDD 数据集来进行电器分解，并与文献中的卷积序列对点模型进行比较。结果表明，该模型能够为具有不同特征的电器提供令人满意的分解性能。

    Jun, 2018

  • 基于代理模型的序列长度预测的高效互动 LLM 服务

    通过使用轻量级代理模型来预测 LLM 输出序列长度，我们提出了一种具有推测的最短作业先执行调度程序，以解决 LLM 非确定性特性并实现高效的互动式 LLM 服务。相对于 FCFS 调度程序，在无批处理、动态批处理和连续批处理设置下，对真实世界的数据集和生产工作负载轨迹进行评估显示 SSJF 能够减少平均作业完成时间 30.5-39.6%，同时提高吞吐量 2.2-3.6 倍。

    Apr, 2024