high-throughput | BriefGPT - AI 论文速递

关键词high-throughput

搜索结果 - 6

Helix: 基于异构 GPU 上的最大流进行大型语言模型的分布式服务
介绍了一种名为 Helix 的分布式系统，用于在异构 GPU 集群上提供高吞吐量和低延迟的大语言模型（LLM）服务。通过将 LLMs 的推理计算以最大流问题形式表示为有向加权图，使用混合整数线性规划（MILP）算法来发现高度优化的策略，从而
PDFa month ago
人算协同贝叶斯优化工程系统
应用高通量贝叶斯优化和离散决策理论，提出了一种协同贝叶斯优化方法，以将人类专家的知识融入数据驱动的决策过程中，实现更快的收敛和改善工程系统中贝叶斯优化的可追踪性。
PDF3 months ago
ICML光通信基于 ANN 的实时 FPGA 演示器
本文介绍了一个基于人工神经网络的均衡器的高通量可编程逻辑门阵列实验平台。该平台在实时中展示并运行着一个 30 GBd 的双级脉冲幅度调制光通信系统的均衡化过程。
PDF4 months ago
专家引导的贝叶斯优化方法用于已知系统的人机交互式实验设计
通过高通量（批处理）贝叶斯优化和人类决策理论，本文提出一种方法，使领域专家能够影响最优实验的选择。该方法旨在解决人类在离散选择上比连续选择更擅长的假设，并在每次迭代中通过求解增广多目标优化问题返回备选解集合，从中专家选择一个进行评估。研究表
PDF7 months ago
高效同步深度强化学习
本文介绍了一种基于高吞吐量、同步深度强化学习的方法（HTS-RL），通过并发地进行学习和推断来提高数据处理效率，同时通过避免陈旧政策和保持完全确定性的异步交互方式来提高稳定性和样本效率。我们通过在 Atari 游戏和 Google 研究足球
PDF4 years ago
数和分割高梁头
本文提出了一种高通量的自动计数和分割高粱中穗（头）的方法，并使用一种新颖的深度卷积神经网络架构来处理图像密度图，以进行计数。最终得到的实例分割模型也产生了可观的结果。
PDF5 years ago