acceleration techniques | BriefGPT

关键词acceleration techniques

搜索结果 - 7

LLM 加速、优化和应用的新解决方案
该研究综述了针对大型语言模型（LLMs）的挑战以及提高系统效率的最新进展和研究方向，包括算法级加速技术、LLM 硬件与软件协同设计策略、LLMs 加速器编译方法以及利用 LLMs 辅助电路设计的方法。通过这些工作，旨在为 LLMs 在各种应
PDF18 days ago
通过隐藏传输进行并行解码以实现无损大型语言模型加速
大型语言模型的并行解码技术，包括隐藏状态传递、树状注意机制和加速技术等，提高了模型推理速度和生成准确性。
PDF3 months ago
加速基于得分的扩散模型的收敛性证明
设计了加速常见确定性和随机抽样算法的训练免费算法，加速度确定性和随机抽样器的汇率超过 DDIM 和 DDPM 抽样器的速度。
PDF4 months ago
一种不精确 Bregman 近点法及其加速版本用于非平衡最优输运
用于计算生物学、计算成像和深度学习中不平衡最优传输问题的不平衡最优传输问题 (UOT) 发挥越来越重要的作用。通过使用缩放算法，我们开发了一种不完全 Bregman 近似点方法来解决 UOT, 从而提供了对 UOT 解决方案的逼近。
PDF4 months ago
图神经网络加速综述：算法、系统和定制硬件
本次调查报告提供了图神经网络加速的分类法，并回顾了现有方法，并提出了未来的研究方向，以便统一视图和解决相关工作的复杂性。
PDFa year ago
FedADC: 带漂移控制的加速联邦学习
本文提出了一种新的联邦学习算法 FedADC，可以在分布式环境下加速核心算法 SGD 并控制数据漂移问题，同时不会增加计算和通信负载，并通过实验验证了其优越性。
PDF4 years ago
PFLD：实用的人脸关键点检测器
本文利用加速技术，设计了一个紧凑的人脸特征点检测模型，在不同的自然环境下，如不受限制的姿态、表情、光照和遮挡，取得了很高的检测精度和超快的速度，通过旋转信息的估计进行几何规范化特征定位，同时还采用不同样本权重的一种新误差函数，用于平衡数据不
PDF5 years ago