Jun, 2017

无服务器计算：当前趋势和开放问题

PDF
TL;DR本文调研了工业界、学术界和开源项目中已有的无服务器平台，分析了其关键特性、使用案例，描述了其技术挑战和未解决的问题。
serverless computingcloud programming modelsserverless platformstechnical challengesopen problems
发现论文，激发创造
  • 无服务器机器学习模型推理调查

    最近在生成人工智能、计算机视觉和自然语言处理方面的进展，已经使得人工智能模型得到了广泛应用。这种广泛应用需要在生产环境中部署这些模型，确保可靠性、最小的停机时间以及优化基础设施的运营成本。大型机器学习模型经常需要 GPU 资源以进行高效推理，以满足服务级别目标。在这些趋势的背景下，人们越来越关注在无服务器架构中托管 AI 模型，并提供推理任务的 GPU 访问。这项调查旨在总结和分类大规模深度学习服务系统中的新兴挑战和优化机会。通过提供新颖的分类法和总结最近的趋势，我们希望这项调查能为大规模深度学习服务系统的新的优化视角提供启示，并激发出创新作品。

    Nov, 2023

  • 大规模云服务提供商中无服务器应用的特性与优化

    本研究以 Azure Functions 的 FaaS 工作负载为例，深入分析了其执行特征，并提出了一种实用性的资源管理策略，该策略显著减少了函数的冷启动次数，同时比现有策略花费更少的资源。

    Mar, 2020

  • Kubernetes 上的无服务器推理

    本文介绍了利用 KFServing 这一构建在 KNative 无服务器框架之上的服务器化机器学习推理解决方案，在保持简洁一致的界面的同时缓解了基础设施成本与 GPU 推理的自动扩容挑战。

    Jul, 2020

  • 物联网、区块链和人工智能对云计算的转化效应：演进、愿景、趋势和开放挑战

    研究探讨了三种新兴技术（区块链、物联网和人工智能）如何影响未来云计算系统，识别了多个驱动这些技术的范式，并提出了一个概念模型，以探索这些新兴技术对云计算演化的影响。

    Oct, 2019

  • 云计算的安全问题

    本文研究了云计算的经济收益，同时关注安全和信任问题，特别是数据保护，并讨论了各种高级安全威胁。

    Aug, 2013

  • 探索无服务器计算对点对点训练机器学习的影响

    通过将无服务器计算与点对点网络相结合，提出了一种在资源限制下实现高效并行梯度计算的新型架构，相比传统的点对点分布式训练方法，在梯度计算时间上取得了显著提升，同时也引入了更高的成本。

    Sep, 2023

  • 云计算 SLA 导向资源调度：挑战、架构与解决方案

    本文提出了基于 SLA 的资源管理的构想、挑战和架构元素，支持市场提供策略和虚拟化技术的集成，用于灵活地为应用程序分配资源。通过我们的工作原型系统获得的性能结果显示了基于 SLA 的资源提供的可行性和有效性。

    Jan, 2012

  • PixelsDB：灵活服务级别和价格的无服务器及自然语言辅助数据分析

    PixelsDB 是一个开源的数据分析系统，通过自然语言接口和灵活的服务级别和价格，使得缺乏系统或 SQL 专业知识的用户能够高效地探索数据。

    May, 2024

  • 大数据系统应对机器学习挑战：向大数据科学服务发展

    介绍大数据科学中使用云计算作为一种实用且成本效益高的解决方案，着重分析软件堆栈的建设模块，为数据科学家提供大数据分析应用的普及服务，为该领域的最新发展和挑战提供各种见解。

    Sep, 2017

  • IBM 深度学习服务

    本文介绍了 IBM 的深度学习服务（DLaaS）的软件架构细节，该服务提供深度学习库，通过分布和编排层，资源供应层实现在云中可伸缩和弹性的管理，利用深度学习以及云计算相结合的业务模式，将传统机器学习方法向深度学习推进。

    Sep, 2017