Sep, 2023

OpenCV 算法在 RISC-V CPU 上的矢量化改进

PDF
TL;DR本研究讨论了在现有的 RISC-V 处理器上通过改进 OpenCV 库中几个计算机视觉和机器学习算法的向量化来加速计算的可能性，并证明改进的向量化可以将 RISC-V 设备的计算速度提高百分之几十。
risc-v architecturehigh-performance computingnumerical simulationcomputer visionmachine learning
发现论文，激发创造
  • RISC-V 系统机器学习推理工作负载的全栈评估

    通过使用基于多级中间表示（MLIR）的开源编译工具链，该研究在 gem5 这个开源架构模拟器上评估了 RISC-V 架构上各种机器学习工作负载的性能，并揭示了 gem5 在模拟 RISC-V 架构时的当前限制，为未来的开发和改进提供了见解。

    May, 2024

  • 关于视觉任务中深度卷积神经网络的向量化

    本文研究了深度卷积神经网络中的关键构建模块的向量化过程，旨在更好地理解和促进并行实现，作者开发和比较了六种具有不同程度向量化的实现，并提供了一个统一的 CNN 框架，同时提供了一个具有最先进速度性能的矢量化 Matlab 实现。

    Jan, 2015

  • 基于超低功率的 RISC-V 集群并行计算的光流估计在纳米无人机导航中的应用

    该研究提出了一种基于多核低功耗 RISC-V 微控制器单元的计算机视觉算法并行化策略，实验结果表明，该算法显著提高了在微型无人机上的帧率，使得最大飞行速度可以翻倍，并且仅使用前一单核实现的近三分之一时钟频率。

    May, 2023

  • RISC-V R 扩展：利用租用流水线提高边缘 DNN 处理效率

    该研究介绍了 RISC-V R-extension，一种用于增强边缘设备上深度神经网络处理效率的新方法。该扩展采用了租用流水线阶段和架构流水线寄存器（APR）的特性，优化关键操作执行，从而减少延迟和内存访问频率，通过全面分析，证明了 R-extension 在边缘设备处理中的提升效果，为更加响应和智能的边缘应用铺平了道路。

    Jul, 2024

  • 在一个开源的 RISC-V 多微核平台上优化基础模型推理

    通过实现分布式 Softmax 原语并利用 ISA 扩展进行 SIMD 浮点操作数流和指令重复，以及专门的 DMA 引擎来最小化昂贵的主内存访问和容忍其延迟，在开源的 RISC-V 平台上呈现了第一批全流程的 Transformer 模型推理结果。对于仅编码器模型，我们展示了最优实现与基线版本之间高达 12.8 倍的加速比；同时在 HW 平台上实现可比较的计算单位吞吐量，FPU 利用率超过 79％和 294 GFLOPS/W，并比 SoA 加速器实现 2 倍以上的性能。对于仅解码器模型，与基线实现相比，在非自回归（NAR）模式下实现 16.1 倍的加速，而在自回归（AR）模式下实现高达 35.6 倍的加速。与最佳 SoA 专用加速器相比，我们实现了高 2.04 倍的 FPU 利用率。

    May, 2024

  • 重新思考 Inception 架构在计算机视觉中的应用

    本篇论文主要研究了如何利用适当分解卷积和激进的正则化等方法，使卷积神经网络计算效率最大化，并以 ILSVRC2012 分类挑战作为基准，报告了使用少于 2500 万参数的 5 亿乘加运算成本的网络，评估单帧评估的 top-1 误差 21.2％和 top-5 误差 5.6％的显著成果。

    Dec, 2015

  • 移动设备上高性能超低精度卷积

    通过对 ARMv7 设备上现代深度学习工作负载所需的核心基本操作进行开源实现和全面分析，我们展示了与现有市场上的 float32 和 int8 基准相比，使用大于 4 位精度的最先进的超低精度技术可获得 4 倍至 20 倍的加速度。

    Dec, 2017

  • 一种具有极限边缘智能设备学习能力的精确可扩展 RISC-V DNN 处理器

    提出了一种支持多种精度的定点深度神经网络推断和增强设备上学习能力的精度可伸缩的 RISC-V DNN 处理器，通过改进硬件资源利用率，显著提高推断吞吐量和能效，并实现 16.5 倍更高的设备上学习的浮点吞吐量。

    Sep, 2023

  • 深度神经网络的降低精度浮点数优化：在微控制器上进行设备端学习

    本文提出了一种降低 MCU 类设备上计算量的新型优化技术，使用支持矢量化 16 位浮点 SIMD 操作的 RISC-V RV32 架构，加速了前向和后向传递算法，其计算效率比现有 ODL 软件框架快两个数量级，并且在持续学习设置中比以前的 FP32 并行实现快 1.6 倍。

    May, 2023

  • 通过向量化每秒解码数十亿个整数

    本文介绍了一种基于 SIMD 指令的新型向量化方案，名为 SIMD-BP128，可以加速整数数组编码和解码，并提高节省存储空间。同时，还提出了一种名为 SIMD-FastPFOR 的新型向量化压缩方案，具有很好的压缩性能和解压速度。

    Sep, 2012