Mar, 2016

基于卷积神经网络的快速、节能的神经形态计算

PDF
TL;DR本文介绍了一种基于突触剪枝和脉冲神经元结构的神经形态学计算机，其能够实现与深度神经网络相当的分类准确率，而且具有更高的能效和推理速度，在维持高吞吐量的同时能够达到节能的目的，并且使用反向传播算法进行指定和训练，使深度学习的算法能力与神经形态学处理器的效率相结合，从而更好地实现嵌入式人工智能的发展。
neuromorphic computingspiking neuronsenergy-efficiencydeep convolution networksbackpropagation
发现论文，激发创造
  • 提高前馈神经网络在脉冲神经形态芯片中的分类准确性

    使用新的二进制硬件跨棒学习算法实现深度神经网络在 TrueNorth 芯片上的部署，可在以前工作的基础上实现显著提高（76％与 86％准确度）同时保持良好的性能 MNIST 手写数据集。

    May, 2017

  • 面向下一代计算机视觉的基于脉冲的神经形态计算

    神经形态计算有望比传统的冯・诺依曼计算模式在能效上提升数个数量级。其目标是通过学习和模拟大脑功能来开发自适应、容错、低占用、快速、低能耗的智能系统，可以通过在材料、器件、电路、架构和算法等不同抽象层面上进行创新来实现。随着复杂视觉任务的能耗因大型数据集而呈指数增长，并且资源受限的边缘设备变得越来越普遍，基于脉冲的神经形态计算方法可以成为在当前主导视觉领域的深度卷积神经网络的可行替代方案。在本书章节中，我们介绍了神经形态计算，概述了设计堆栈的几个代表性示例（器件、电路和算法），并总结了一些令人兴奋的应用和未来的研究方向，这些方向在近期的计算机视觉中似乎很有前景。

    Oct, 2023

  • 神经形态硬件上机器学习工作量的高效部署

    本文提供了一种将预先训练的深度神经网络 (DNNs) 转换成脉冲神经网络 (SNNs) 的通用指南，并介绍了一些在神经形态硬件上部署转换后的 SNNs 的技术，可显著改进其延迟，功耗和能耗。实验结果表明，与 Intel Neural Compute Stick 2 相比，使用我们的 SNN 改进技术， Intel 的神经形态处理器 Loihi 在测试的图像分类任务中功耗降低了最多 27 倍，能耗降低了最多 5 倍。

    Oct, 2022

  • 低功耗神经形态处理硬件

    本文回顾了构建新一类仿效人脑以时间编码和处理信息的信息处理引擎所涉及的一些体系结构和系统级设计方面，以解决能效问题。

    Jan, 2019

  • DeepFire2：一种基于 FPGAs 的卷积脉冲神经网络加速器

    DeepFire2 是一种新型的硬件架构，能够在多个逻辑区域上高效地映射大型网络层，大大提高了吞吐量和能源利用率，同时避免了查找表对 SNN 逻辑资源的限制，能够部署大型的 ImageNet 模型，保持每秒超过 1500 帧的吞吐量。

    May, 2023

  • 基于首次发放时间的快速高效的神经形态深度学习

    本文介绍了如何使用第一个尖峰时间作为学习规则，在网络中实现误差反向传播，同时在 BrainScaleS-2 神经形态系统上验证了该框架。研究了该方法在其他神经形态平台上的性能表现。

    Dec, 2019

  • 具有连贯纳米光子电路的深度学习

    本篇论文提出新的光学神经网络架构，并利用光学的独特优势实现计算速度和能源效率的显著提升，最高分别达到目前技术水平的两个和三个数量级，此外使用可编程纳米光子处理器进行实验验证。

    Oct, 2016

  • 神经形态硬件上的超低功耗图像分类

    基于时间编码的 ANN 到 SNN 转换方法 Quartz 在神经形态硬件上实现了高分类准确性，通过时间编码在功耗、吞吐量和延迟方面具有优势。

    Sep, 2023

  • 稀疏连接神经网络：实现深度神经网络的高效 VLSI 设计

    本文介绍了一种基于稀疏连接实现深度神经网络的方法，并提出了一种有效的硬件架构，该方法可以减少高度复杂的神经网络的内存需求，并且可以降低能耗高昂的问题。该方法的实现可以在三个流行数据集上提高准确性，同时减少高达 90% 的连接和存储需求以及 84% 的能耗消耗。

    Nov, 2016

  • 针对神经形态应用优化突触神经网络的能耗消耗

    该文介绍了将卷积神经网络转化为脉冲神经网络的方法，并探讨了量化感知的训练及优化策略对于能效的影响，实验表明转换后的网络在维持相似准确率的情况下具有更低的能量消耗。

    Dec, 2019