Jan, 2024

Shabari：用于更快、更高效的无服务器函数的延迟决策

PDF
TL;DR通过在功能输入可用后延迟进行资源分配决策，Shabari 在提供功能性能的同时提高资源利用率，相比包括 Aquatope、Parrotfish 和 Cypress 在内的现有系统，Shabari 在一系列无服务器功能和输入上将 SLO 违规减少了 11-73％，同时节省了 CPU 资源并在中位数情况下减少了 64-94％的内存浪费。
serverless computingresource managementperformance variabilityresource utilizationshabari
发现论文，激发创造
  • 大规模云服务提供商中无服务器应用的特性与优化

    本研究以 Azure Functions 的 FaaS 工作负载为例，深入分析了其执行特征，并提出了一种实用性的资源管理策略，该策略显著减少了函数的冷启动次数，同时比现有策略花费更少的资源。

    Mar, 2020

  • 生产无服务器工作负载的长期趋势特征

    对华为云无服务器服务的行为进行了分析，发现函数的请求和执行方式存在巨大差异，资源消耗和时间分布也存在多样性，需要进一步研究资源预留和时序预测。

    Dec, 2023

  • 强化学习（RL）增强冷启动频率减少在无服务器计算中的应用

    通过使用强化学习减少冷启动频率，以提高函数即时初始化效果的解决方案的实现与评估。

    Aug, 2023

  • 无服务器计算中深度强化学习的综述：函数调度与资源自动扩展

    该论文综述了深度强化学习技术在无服务器计算的函数调度和资源扩展领域的应用，分析了各种算法、模型和性能，发现深度强化学习在提高函数调度和资源扩展效率方面取得了有希望的结果，同时也指出了需要解决的挑战和未来研究方向。

    Oct, 2023

  • FIRM：面向 SLO 的微服务智能精细化资源管理框架

    本文提出了一种名为 FIRM 的智能细粒度资源管理框架，通过机器学习的方法，检测和缓解微服务共享资源引起的延迟，有效地提高了系统资源利用率和性能预测性。

    Aug, 2020

  • 一种智能无服务器函数的深度递归强化学习方法

    通过将模型无关的循环强化学习（Recurrent RL）代理与最先进的 PPO 算法相结合，我们研究了用于函数自动缩放的模型无关的 Recurrent RL 代理，并将其与基于阈值的函数自动缩放进行了比较，发现循环策略能够捕捉环境参数并在函数自动缩放方面显示出有希望的结果。除此之外，我们将基于 PPO 的自动缩放代理与商业使用的基于阈值的函数自动缩放进行了比较，并认为基于 LSTM 的自动缩放代理能够提高吞吐量 18％，函数执行速度 13％，并支持多出 8.4％的函数实例。

    Aug, 2023

  • Faasm: 高效状态有关的轻量级无服务器计算的隔离技术

    Faaslets 是一种高性能服务器计算的隔离抽象，它使用 WebAssembly 提供的软件故障隔离来隔离已执行函数的内存，同时允许在相同的地址空间中共享内存区域，从而避免产生昂贵的数据移动。与标准容器平台的比较表明，Faasm 能够在训练机器学习模型时实现 2 倍的加速和 10 倍的内存减少，在提供机器学习推理方面，Faasm 将吞吐量提高了一倍，并将尾延迟降低了 90%。

    Feb, 2020

  • 边缘服务预算约束下的需求估计与贝叶斯赌博学习

    本研究提出一种基于上下文的在线算法，称为 COERR，用于边缘资源租赁问题，以在预算有限的情况下最大化 ASP 的效用，并通过一系列实验检验了其可行性。

    Mar, 2019

  • Karasu：大数据分析高效集群配置的合作方法

    Karasu 是一种更高效的资源配置剖析方法，通过促进类似基础设施、框架、算法或数据集的用户之间的数据共享，训练轻量级性能模型并将它们组合成一个集成方法，以开发配置搜索空间中固有的知识，同时优化多个目标，从而显著提升现有方法在性能、搜索时间和成本方面的表现。

    Aug, 2023

  • 无服务器计算：当前趋势和开放问题

    本文调研了工业界、学术界和开源项目中已有的无服务器平台，分析了其关键特性、使用案例，描述了其技术挑战和未解决的问题。

    Jun, 2017