Apr, 2023

用时间卷积网络管理无服务器云中的冷启动

PDF
TL;DR该论文提出了一种新的低耦合、高内聚的集成策略以解决无服务器云堆栈基础结构和功能级别的冷启动问题，并提出了一种基于时间卷积网络（TCN）的深度学习方法，用于预测未来 10 至 15 分钟内功能实例的到来，并在实际数据集上进行了基准测试，证明 TCN 在时序机器学习算法中表现出更好的性能。
serverless cloudcold-startensemble policytemporal convolutional networkmachine learning
发现论文，激发创造
  • 强化学习（RL）增强冷启动频率减少在无服务器计算中的应用

    通过使用强化学习减少冷启动频率，以提高函数即时初始化效果的解决方案的实现与评估。

    Aug, 2023

  • OTT 媒体预测分析中低起点难题的解决：元洞察协同和多模态融合掌握

    本研究提出了一种通用方法，利用元数据和多模型集成技术来解决冷启动问题，并通过加权平均预测的集成方法来提高预测准确性，实验结果表明，与单个模型相比，多模型集成方法显著提高了预测准确性。

    May, 2023

  • 超低功耗时间序列边缘推理的 TCN 映射优化

    该论文介绍了一种基于自动探索方法和优化卷积核库的时间卷积网络应用于低功率微控制器上的策略，通过对层瓷砖的优化来达到最小延迟和能量消耗，实现了比其他常见方法更高效的时间序列分析方法。

    Mar, 2022

  • 联合训练胶囊网络用于冷启动推荐

    本文提出了一种新颖的神经网络模型，即联合训练胶囊网络模型（JTCN），用于解决冷启动推荐任务。该模型通过引入侧信息模拟用户高级偏好，使用关注机制的胶囊层动态汇总用户高级偏好， 并将用户偏好的损失和推荐中的 softmax 损失联合训练。实验证明，该模型在 CiteULike 和 Amazon 数据集上都优于当前最先进的方法，其中冷启动推荐任务的召回率提高至少 7.07％（CiteULike）和 16.85％（Amazon）以上。

    May, 2020

  • 基于时序卷积神经网络的概率预测

    本研究基于卷积神经网络提出了一种概率预测框架，可用于多个相关时间序列的预测，并可在参数和非参数设置下估计概率密度。该方法通过堆叠残差块实现了序列的时间依赖关系，并通过表示学习捕获了季节性、假日效应等复杂模式，实验证明该框架在精度和效率方面均优于当前其他方法。

    Jun, 2019

  • 云端神经网络训练中的保密性保护

    Tempo 是首个与 TEE 和分布式 GPU 合作的基于云的深度学习系统，通过引入以排列为基础的隐匿算法以盲化输入和模型参数，并提出了一种优化机制来减少加密操作，从而在保护模型隐私的同时加速了深度神经网络的训练，实验证明 Tempo 优于基准方法并提供足够的隐私保护。

    Jan, 2024

  • 一种智能无服务器函数的深度递归强化学习方法

    通过将模型无关的循环强化学习（Recurrent RL）代理与最先进的 PPO 算法相结合，我们研究了用于函数自动缩放的模型无关的 Recurrent RL 代理，并将其与基于阈值的函数自动缩放进行了比较，发现循环策略能够捕捉环境参数并在函数自动缩放方面显示出有希望的结果。除此之外，我们将基于 PPO 的自动缩放代理与商业使用的基于阈值的函数自动缩放进行了比较，并认为基于 LSTM 的自动缩放代理能够提高吞吐量 18％，函数执行速度 13％，并支持多出 8.4％的函数实例。

    Aug, 2023

  • 拼贴推理：使用编码冗余模型在分布式图像分类期间实现低尾延迟

    提出了一种使用 Collage-CNN 模型结合 MLaaS 平台的低成本冗余框架来降低 Inference 的尾延迟，并降低推理延迟的变异性的方法。实验表明，相对于以复制为基础的方法，可以将推理的 99-percentile 尾延迟降低 1.47 倍，同时保持高准确性。

    Jun, 2019

  • 大规模云服务提供商中无服务器应用的特性与优化

    本研究以 Azure Functions 的 FaaS 工作负载为例，深入分析了其执行特征，并提出了一种实用性的资源管理策略，该策略显著减少了函数的冷启动次数，同时比现有策略花费更少的资源。

    Mar, 2020

  • 边缘云多用户推理编排的在线学习

    我们提出了一种基于强化学习的计算卸载解决方案，它可以在考虑首选深度学习模型选择技术的情况下学习最佳卸载策略，以最小化响应时间同时提供足够的准确性，我们的解决方案在 AWS 和 ARM 核心配置的多个实现中提供 35％的加速，并且最少仅有 0.9％的准确性降低，展示了我们在线学习框架在边缘计算及联云系统中编配深度学习推理的潜力。

    Feb, 2022