deep learning inference | BriefGPT

关键词deep learning inference

搜索结果 - 8

MMRISC-V 系统机器学习推理工作负载的全栈评估
通过使用基于多级中间表示（MLIR）的开源编译工具链，该研究在 gem5 这个开源架构模拟器上评估了 RISC-V 架构上各种机器学习工作负载的性能，并揭示了 gem5 在模拟 RISC-V 架构时的当前限制，为未来的开发和改进提供了见解。
PDFa month ago
可扩展的人机点云压缩
我们提出了一种专门为机器任务而设计的可扩展点云数据编解码器，基于 PointNet++ 的架构，并在 ModelNet40 数据集上进行了测试，显示了与之前的非专用编解码器相比显著的改进。
PDF4 months ago
一种用于模拟内存计算的精密优化定点近存数字处理单元
基于固定点算术的近存储数字处理单元（NMPU）在采用模拟内存计算芯片的模拟系统中展现了优越的性能，包括 139 倍的加速、7.8 倍的较小面积和竞争力的功耗，并实现了与浮点 16 位算术基准相比仅仅 0.12%/0.4% 的推断精度损失。
PDF5 months ago
OneAdapt：通过反向传播实现深度学习应用的快速适应
通过优化配置选项以提高深度学习推理的准确性和降低网络带宽和 GPU 资源的使用量，本文提出了一种名为 OneAdapt 的方法，通过利用深度神经网络的可微性来快速估计准确度梯度，从而达到三个要求：最小化额外的 GPU 或带宽开销，基于数据对
PDF9 months ago
PolyLUT: 学习分段多项式用于超低延迟的 FPGA 基于 LUT 的推理
使用多元多项式作为基本构建模块，我们提出了一种新的方法，通过软逻辑将多项式计算隐藏在 LUTs 内部，从而在 FPGA 部署上训练神经网络，实现相同的准确性，同时显著降低延迟和面积。我们在网络入侵检测、CERN 大型强子对撞机的喷气识别和
PDF10 months ago
PIM-QAT：面向处理内存系统（PIM）的神经网络量化
本研究提出了一种针对处理内存 (PIM) 量化的方法 (PIM-QAT)，通过分析训练动态，引入反向传播和前向传播重缩放技术，提出批归一化 (BN) 校准和调整精度训练等技术，有效地解决了硬件约束引起的非理想因素，实现了 PIM 系统中具有
PDF2 years ago
KDD高效多任务推理的剪枝感知合并
本文提出了一种网络合并方法 Pruning-Aware Merging (PAM)，在考虑未来网络剪枝的情形下，合并神经网络以达到最小计算成本，实验结果表明与现有方法相比，PAM 可以获得高达 4.87 倍减少计算成本的效果。
PDF5 years ago
DeepCache：移动端深度视觉高效缓存
DeepCache 是一种基于时间局部性的缓存设计，能提高深度学习推理的效率且适用于移动端应用，能平衡缓存能力、资源开销和模型精度损失等问题，并在实验中展现了一定的推理时间和系统能耗的优化。
PDF7 years ago