本文介绍了一种使用机器学习技术来预测 SQL 查询资源使用的服务，并且可以帮助改善查询调度，解决 SQL 引擎集群中不平衡的 OLAP 工作负载问题。

Apr, 2022

本文提出以数据驱动的方法来替代常规的以工作负荷为驱动的方式，通过机器学习模型来捕捉行为，并展示数据驱动模型不仅可以提供更好的准确性，而且还能更好的适应未知查询。

Sep, 2019

阿里巴巴负载挖掘器 (AWM) 是一种用于发现复杂大规模工作负载中工作负载模式的实时系统，通过对用户请求记录的 SQL 查询模式进行编码和发现，基于发现的模式优化查询处理，在云数据库上优化查询处理。

Jul, 2023

在动态云环境中，使用预测自动缩放来预测服务器的工作负载，并提前准备资源以确保服务水平目标（SLOs）。然而，在实践中，由于外部事件（例如销售促销活动和应用程序重新配置）导致的异常流量，其预测任务通常会遭受性能下降的影响。针对这个问题，我们提出了一种基于回放的持续学习方法，即基于密度的内存选择和基于提示的网络学习模型（DMSHM），只使用历史记录的一小部分来实现准确的预测。我们同时还展示了 DMSHM 在真实工业应用中杰出的实用性。

Jul, 2023

本文提出了一种具有全局汇聚和静态内容感知的端到端深度学习框架 DynEformer，用于提供动态 MT-ECP 的统一工作负载预测方案。通过在五个真实数据集上的实验，DynEformer 在 MT-ECP 的动态场景中实现了最先进的工作负载预测效果，为 MT-ECP 提供了一个统一的端到端预测方案。

Jun, 2023

本文使用贝叶斯深度学习模型预测未来云计算资源需求的分布和不确定性，并通过多组数据集进行不同的预训练和微调，比较单变量和双变量模型的精确度和对 QoS 的影响，并检验了模型的迁移学习能力和在真实环境中的可部署性。

Feb, 2023

本研究提出了一种基于查询工作负载的知识图谱分区方法，通过聚类查询和重写查询来减少分布式关联并优化工作负载性能。实验结果表明了该方法在工作负载处理时间上的性能提高。

Mar, 2022

本文通过应用认知心理学的工作记忆框架来增强大型语言模型（LLMs）的架构，以解决其在人类记忆能力方面的限制，并提出了一种创新模型，包括集中的工作记忆中心和情景缓冲区，以提供更高的连续性，以实现复杂任务和合作场景中的细致语境推理。然而，对于情景记忆的优化编码、存储、优先级、检索和安全性仍需进一步研究，以促进发展具有更复杂、类似人类记忆能力的 LLM 代理。这表明记忆机制是人工通用智能领域的重要前沿。

Dec, 2023

本文探讨了如何优化在关系查询中调用大型语言模型的 LLM 推断，包括重排行以最大化 LLM 推断引擎内的键值（KV）缓存重用，重排列列以进一步增加缓存重用，并去重复冗余的推断请求。我们在 Apache Spark 中实现了这些优化，在真实数据集上的多样化 LLM 查询基准测试中，最终端到端延迟提高了 4.4 倍。据我们所知，这是第一个明确解决在 SQL 查询中优化 LLM 调用问题的研究。

Mar, 2024

本文提出了一种名为 WGAN-gp Transformer 的新型时间序列预测模型，它的生成器基于 Transformer 网络，评论家采用 MLP。该方法对真实工作负载跟踪进行了广泛的评估，发现其可达到 5 倍的快速推理时间和高达 5.1% 的预测准确率。同时还将 WGAN-gp Transformer 应用于 Google 云平台的自动缩放机制，发现其优于基于 LSTM 的机制。

Mar, 2022