latency prediction | BriefGPT

关键词latency prediction

搜索结果 - 9

关于神经架构搜索的延迟预测器
通过硬件感知的神经架构搜索，预训练和迁移学习方法来改进神经网络的部署效率，并提出了综合性的延迟预测模型，能够有效地提高硬件延迟预测的准确性。
PDF4 months ago
CDMPP：一种适用于张量程序的设备模型无关框架的延迟预测
我们提出了 CDMPP：一种用于跨模型和跨设备预测的高效张量程序延迟预测框架，它通过紧凑的 AST 表示和基于预排序的位置编码方法来捕获张量程序的内部结构，通过领域适应启发式方法学习领域不变表示，并设计了基于 KMeans 的采样算法来支持
PDF8 months ago
使用深度学习进行数据库管理系统的自动调优
通过使用 OtterTune 自动化工具，利用监督和无监督机器学习技术实现对数据库系统配置的自动管理，并通过对比实验证明，其生成的配置与人工专家配置相当或甚至更优，本文则是在原有的自动化技术基础上，利用机器学习方法进一步优化了新的数据库系统
PDFa year ago
基于深度学习的数据库管理系统自动调优
利用 OtterTune 的方法，通过有监督和无监督的机器学习方法选择对系统有影响力的 knobs，映射未知的工作负载，推荐 knob 设置，并改进延迟预测，并使用 GMM 聚类去除指标并组合集成模型（如 RandomForest）与非线性
PDFa year ago
端到端延迟预测的低复杂度方法
该论文探讨了在软件定义网络中，设计低成本的本地算法来预测端到端的延迟，以满足特定应用程序的服务质量需求。研究提出了几种低复杂度的方法来预测延迟，并在公共数据集上比较了其预测和训练时间与准确性。
PDFa year ago
MAPLE-Edge：用于边缘设备的运行时延迟预测器
本论文提出了 MAPLE-Edge，一个边缘设备定向的 MAPLE 扩展版本，它通过使用硬件 - 运行时描述符，训练架构 - 延迟回归网络来实现对边缘设备的延迟预测，与 MAPLE 相比，MAPLE-Edge 可以使用更少的 CPU 性能计
PDF2 years ago
ICCVperf4sight：用于在边缘 GPU 上建模 CNN 训练性能的工具流
本研究提出了一种自动方法：perf4sight，它能够使用 PyTorch 作为框架和 NVIDIA Jetson TX2 作为目标设备，开发出准确预测 CNN 训练内存和延迟的模型，为边缘 GPU 上的高效网络调整铺平道路。
PDF3 years ago
硬件适应元学习在 NAS 中用于高效延迟预测的帮助
提出了 Hardware-adaptive Efficient Latency Predictor (HELP) 作为一种基于元学习的硬件自适应延迟预测方法，帮助神经架构搜索确定适用于目标设备的模型，并在延迟限制下提高了基础 NAS 方法的
PDF3 years ago
延迟感知的可微神经架构搜索
通过在优化中添加可微延迟损失项，使搜索过程能够在准确性和延迟之间进行权衡，并通过延迟预测的核心来实现，该核心将每个网络架构编码并馈送到多层回归器中。我们的方法能够降低 20％的延迟同时保持准确性，且易于转移到其他硬件平台或其他不能微分的因素
PDF4 years ago