resource utilization | BriefGPT

关键词resource utilization

搜索结果 - 24

医学领域零射击端到端口语问答
通过在医学领域中探索端到端方法，我们引入了一种新颖的零 - shot 问答方法，与传统的级联系统相比，我们的方法在 8 个医学任务和 48 小时合成音频的全面评估中，相对于一个带有 1.3B 参数 LLM 和 1.55B 参数 ASR 模型
PDF25 days ago
Mamba4KT: 一种高效和有效的基于 Mamba 的知识追踪模型
Mamba4KT 是第一个探索知识追踪中增强效率和资源利用的新模型，通过对顺序级别和题目级别的解释性进行研究，实验证明其在三个公共数据集上达到可比较的预测准确性，同时显著提高了训练和推理效率以及资源利用效率。
PDFa month ago
LLMs 能否替代 SQL？比较 LLMs 与传统关系型数据库的资源利用
评估了大型语言模型（LLMs）在解释和执行自然语言查询与传统 SQL 时，在资源利用和准确性方面的表现，结果显示使用 LLMs 进行数据库查询会导致显著的能源开销，不建议用 LLMs 替代关系数据库。
PDF3 months ago
TexShape: 语言模型的信息论句子嵌入
通过信息理论的角度，本文致力于解决与将句子编码为其优化表示相关的挑战，特别关注数据领域中的资源利用、隐私和公平问题，并使用经验估计的相互信息，在 (task-based) 数据压缩或过滤敏感信息的过程中，训练了一种信息理论的句子嵌入模型，称
PDF5 months ago
Shabari：用于更快、更高效的无服务器函数的延迟决策
通过在功能输入可用后延迟进行资源分配决策，Shabari 在提供功能性能的同时提高资源利用率，相比包括 Aquatope、Parrotfish 和 Cypress 在内的现有系统，Shabari 在一系列无服务器功能和输入上将 SLO 违规
PDF6 months ago
ICML基于神经情境赌博机的可靠性优化用户接入控制方法，适用于 URLLC 流量
提出了一种基于深度神经网络的 UE 接入控制方法，以实现接近最优的性能，提高小区级的服务可靠性和资源利用效率。
PDF6 months ago
利用预训练的天气嵌入学习预测诊断参数
使用两阶段方法，我们训练了一个自编码器来将预测变量嵌入到潜在空间，并进一步利用这些嵌入表示进行诊断变量的预测，从而实现了减少资源使用、提高准确性和降低操作新模型的摩擦。
PDF7 months ago
OptScaler: 云中稳健自适应扩展的混合主动 - 被动框架
OptScaler 是一个混合自动扩缩容框架，将预测性和反应性方法相结合，通过工作负载预测和资源优化来稳定 CPU 利用率，实现在线服务的可靠自动扩缩容。
PDF8 months ago
数字孪生辅助深度强化学习用于网络切片入场控制的在线优化
5G 及更高网络中多样化网络服务的扩散引发了网络切片技术的出现。其中，接纳控制通过选择性接受服务请求，在实现特定优化目标方面起关键作用。本文提出一种数字孪生（DT）辅助的深度强化学习（DRL）解决方案，以解决 DRL 模型初始不稳定性阻碍其
PDF9 months ago
从文字到瓦特：大型语言模型推理的能源成本基准测试
大型语言模型（LLMs）的计算和能源资源利用的推理性能进行了基准测试和初步分析，分析了不同规模的 LLMa 在两代热门 GPU（NVIDIA V100 和 A100）以及两个数据集（Alpaca 和 GSM8K）上的推理性能与推理能源成本。
PDF9 months ago
面向联合学习中边缘节点的资源高效利用
通过部分训练模型的策略，我们提出并评估了一种受迁移学习启发的联邦学习策略，以减少设备上的资源利用、服务器负载和网络负担，从而加速训练过程，有效利用设备资源，并在不影响全局模型准确性的情况下减少数据传输约 75% 和 53%。
PDF9 months ago
可持续非相关并行机器调度的元启发式优化通用框架：简明概述
通过应用元启发式优化算法解决不相关的并行机器调度问题，研究了如何在可持续发展目标的背景下实现可持续发展目标，并评估了一系列元启发式算法在优化调度问题中的有效性。
PDF10 months ago
预测批量重构代码异味对应用程序资源消耗的影响
本文旨在探索代码异味批量重构与资源消耗之间的关系，并设计算法预测其对资源的影响。实验结果表明基于人工神经网络的预测模型能够高度准确地预测批量重构对资源消耗的影响。同时，本文提出了资源感知的代码异味重构的概念，以满足软件应用开发者在提高代码质
PDFa year ago
边缘人工智能的集成感知 - 通信 - 计算
这篇文章介绍了在应用和物理层中，通过研究三个高度耦合的过程的相互作用，提出了各种各样的集成传感 - 通信 - 计算方案，以改善资源利用率和实现边缘人工智能任务的定制目标。
PDFa year ago
绿色数据中心可持续发展的全面自动化扩展
提出了一种名为 Full Scaling Automation (FSA) 的机制，该机制利用深度表征学习来动态适应大型云计算集群中的工作负载，实现数据中心集群保持所需的 CPU 利用率目标的同时提高能源效率，并且在 2022 年 “双 1
PDFa year ago
ICML使用学习者高效微调压缩语言模型
本论文提出使用学习模块和启动技术进行预训练模型的微调，以达到在更短的时间内得到更好效果的目标。实验证明，Learner 模块和 priming 可以在训练速度、资源利用等方面有较大提升。
PDF2 years ago
GPU 数据中心中的深度学习工作负载调度：分类、挑战和前景
本文调查了现有的深度学习模型调度器设计，旨在实现更高的资源利用率和更低的运营成本。
PDF2 years ago
U-Boost NAS: 利用率提升的可微神经结构搜索
本文提出了一种新的硬件感知神经结构搜索框架，旨在优化目标平台上的任务精度、推理延迟和资源利用。通过使用该框架和新的资源利用模型，我们在 CIFAR-10 和 Imagenet-100 数据集上实现了 2.8-4 倍的 DNN 推理加速，并获
PDF2 years ago
Marius: 在单机上学习大规模图嵌入
提出了一种名为 Marius 的系统，用于在单台机器上训练大规模图的嵌入向量，利用分区缓存和缓冲区感知数据排序减少磁盘访问和优化数据移动，并在多种基准测试中表现出比现有工业系统高十倍的效率和可扩展性。
PDF3 years ago
动态小批量随机梯度下降算法用于弹性分布式训练：在资源极限中的学习
通过动态调度不同的分布式深度学习任务，以最大化资源利用和减少成本，得到我们的 Elastic Distributed Training. 我们提出了一种名为 Dynamic SGD 的方法，可以通过平滑调整学习率来缓解噪声动量估计的影响，在
PDF5 years ago