CVPRJun, 2022

边缘实时超维重配置的硬件加速器

PDF
TL;DR本文介绍了利用低功耗嵌入式硬件的超高维可重构分析系统 (HyDRATE)，该系统利用无 MAC (无浮点数乘积累加操作) 深度神经网络 (DNN) 和超维 (超高维) 计算加速器在边缘执行实时重新配置。通过展示该算法、训练好的量化模型生成和特征提取来实现超高纬度基于逻辑的分类器，并展示了性能随超维数增加而提高的情况。本文介绍了实现的低功耗 FPGA 硬件和嵌入式软件系统，和实现的硬件加速器，以及系统延迟和功耗噪声稳健性等方面的讨论。通过视频活动分类任务的实际与模拟系统性能比较，展示了在相同数据集上的重新配置。使用边缘的少量学习新课程，使用无梯度下降反向传播仅通过重新训练前馈超高维分类器实现该系统的重构性。
hyper-dimensional reconfigurable analyticslow-swap embedded hardwarenon-mac deep neural netshyperdimensional computing acceleratorsvideo activity classification
发现论文，激发创造
  • 可扩展高效的高维计算网络入侵检测

    本文提出了一种创新的超维计算学习框架 ——CyberHD，通过重新生成维度来捕捉网络威胁的复杂模式，达到极低维度，并且具有很高的硬件错误容错性。

    Apr, 2023

  • 超维度计算在边缘智能中的终身应用

    设计和部署了首个适用于有限监督的 IoT 应用的设备上终身学习系统 LifeHD，基于 Hyperdimensional Computing (HDC) 的轻量级学习模式，在离线边缘平台上实现，通过智能存储和管理高维、低精度矢量来提高非监督聚类准确性和能源效率。

    Mar, 2024

  • 具有类脑神经适应性的稳健可扩展的高维计算

    通过动态 HDC 学习框架识别和再生不需要的维度，以提供足够的准确性，并大幅降低维度，从而加速训练和推理。

    Nov, 2023

  • 深度学习系统的超高性能和能量效率：一种算法 - 硬件协同优化框架

    本文旨在实现深度神经网络硬件实现的超高能效和性能，提出一种面向不同类型、大小和应用场景的 DNN 算法 - 硬件协同优化框架，并在硬件部分采用高效的 FPGA 实现，实验表明与 IBM TrueNorth 处理器和参考的 FPGA 实现相比，该框架至少实现了 152 倍的加速和 71 倍的能效增益。

    Feb, 2018

  • 可重构分布式 FPGA 集群设计用于深度学习加速器

    基于低功耗的内嵌 FPGA 提出的分布式系统，可用于边缘计算应用，通过分布式调度优化深度学习负载以获得最佳性能，同时可以在多种配置下评估和管理神经网络工作负载。

    May, 2023

  • 内存中的高维度计算

    提出了一种完整的内存中超维计算（HDC）系统，该系统通过语言分类、新闻分类和电肌图信号手势识别三种典型的 HDC 相关学习任务，实验性地使用 760,000 个相变存储器件执行模拟内存中计算，实现了与软件实现相当的准确性。

    Jun, 2019

  • QHD: 一种脑启发式的超维强化学习算法

    本研究提出了一种基于超维强化学习模型 QHD 的解决方案，该模型可以通过降低存储空间和批处理大小实现即时学习，该模型也支持小的经验重放批处理大小，提供 12.3 倍的加速效果，并且可以在边缘环境中进行高效的强化学习。QHD 的速度是与现有的深度强化学习算法相比提高了 34.6 倍，而学习效果更好。

    May, 2022

  • FPGA-QHAR: 面向边缘的量化人体动作识别优化吞吐量

    提出了一种基于改进的 8 位量化的 Two-Stream SimpleNet-PyTorch CNN 体系结构的集成端到端的可扩展硬件 / 软件加速器共设计用于加速实时监控和机器人系统上的人类动作识别。通过将所有卷积、批量归一化和 ReLU 操作融合成一个单一的均匀层，并利用 Lucas-Kanade 运动流方法实现高并行加速器设计和优化的芯片上引擎计算，实现了近 81% 的预测准确率和约 24 FPS 的实时推理吞吐量，其性能比以前的研究提高了 1.7 倍到 1.9 倍。该框架针对更高的吞吐量和性能测量进行了基准测试，并作为一个开源项目在 GitHub 上提供，用于训练和实现在边缘平台上。

    Nov, 2023

  • 朝向高效的光子超维计算

    近年来，硅光子学计算作为深度神经网络（DNN）的一种有希望的替代方案崭露头角。本文提出了 PhotoHDC，这是第一个用于 HDC 训练和推断的电光子加速器，支持基本的、记录的和图形编码方案，并通过评估常见数据集显示，我们的加速器在实现 HDC 训练和推断方面可以达到比最先进的电光子 DNN 加速器低两到五个数量级的能量延时积，而且还比基于 CiM 的加速器低四个数量级的能量延时积。

    Nov, 2023

  • HDReason: 超维知识图推理的算法硬件协同设计

    使用基于大脑启发的高维计算方法，本研究提出了一种高效且适合加速的知识图谱补全算法，并针对 FPGA 平台进行了一种加速框架的算法 - 硬件共同设计。与 NVIDIA RTX 4090 GPU 相比，该加速器平均实现了 10.6 倍的加速和 65 倍的能效提升。与最先进的基于 FPGA 的 GCN 训练平台相比，HDReason 在进行跨模型和跨平台比较时，性能平均提高了 4.2 倍，能效提高了 3.4 倍。

    Mar, 2024