利用误差恢复实现无乘法人工神经元的能量高效神经计算

Feb, 2016

利用误差恢复实现无乘法人工神经元的能量高效神经计算

Multiplier-less Artificial Neurons Exploiting Error Resiliency for Energy-Efficient Neural Computing

Syed Shakib Sarwar, Swagath Venkataramani, Anand Raghunathan, Kaushik Roy

TL;DR提出了一种利用计算共享和神经网络应用程序的误差容忍性来实现能源消耗改进的近似乘法器和无乘法器人工神经元，并采用最小精度损失的训练方法。实验结果表明，在与传统神经元实现比较下，8 位和 12 位神经元大小的能源消耗分别降低了 35% 和 60%，最大网络精度损失约为 2.83%。此外，在 iso-speed 条件下，8 位和 12 位的神经元大小分别减少了 37% 和 62% 的面积。

Abstract

Large-scale artificial neural networks have shown significant promise in addressing a wide range of classification and recognition applications. However, their large computational requirements stretch the capabilities of computing platforms. The fundamental components of these neural n

artificial neural networks energy consumption approximate multiplier multiplier-less artificial neuron network accuracy

发现论文，激发创造

低功耗神经形态处理硬件

本文回顾了构建新一类仿效人脑以时间编码和处理信息的信息处理引擎所涉及的一些体系结构和系统级设计方面，以解决能效问题。

Jan, 2019

提高前馈神经网络在脉冲神经形态芯片中的分类准确性

使用新的二进制硬件跨棒学习算法实现深度神经网络在 TrueNorth 芯片上的部署，可在以前工作的基础上实现显著提高（76％与 86％准确度）同时保持良好的性能 MNIST 手写数据集。

May, 2017

AdderNet 及其极简硬件设计用于能效人工智能

使用加法核、低比特量化算法以及特定和通用硬件加速器设计一种高效的、性能更好的卷积神经网络（AdderNet），可以消耗更少的资源，并且比传统的卷积神经网络、基于忆阻器网络、XNOR-Net 和基于移位核的网络有更高的性能和能效，可以用于未来的高性能和能效的人工智能应用中。

Jan, 2021

基于卷积神经网络的快速、节能的神经形态计算

本文介绍了一种基于突触剪枝和脉冲神经元结构的神经形态学计算机，其能够实现与深度神经网络相当的分类准确率，而且具有更高的能效和推理速度，在维持高吞吐量的同时能够达到节能的目的，并且使用反向传播算法进行指定和训练，使深度学习的算法能力与神经形态学处理器的效率相结合，从而更好地实现嵌入式人工智能的发展。

Mar, 2016

一种 ReRAM 模拟神经训练加速器的能量、延迟、面积和准确性的多尺度共设计分析

该研究详细分析了使用模拟电阻式存储器（ReRAM）跨栅执行关键矩阵操作以提高加速器性能，并与使用数字 ReRAM 和 SRAM 操作的相关设计进行了比较。结果显示，与类似的数字版加速器块相比，该模拟加速器具有能效更高的优势，并且可以成为进一步架构研究的基础。

Jul, 2017

神经形态硬件上机器学习工作量的高效部署

本文提供了一种将预先训练的深度神经网络 (DNNs) 转换成脉冲神经网络 (SNNs) 的通用指南，并介绍了一些在神经形态硬件上部署转换后的 SNNs 的技术，可显著改进其延迟，功耗和能耗。实验结果表明，与 Intel Neural Compute Stick 2 相比，使用我们的 SNN 改进技术， Intel 的神经形态处理器 Loihi 在测试的图像分类任务中功耗降低了最多 27 倍，能耗降低了最多 5 倍。

Oct, 2022

低功耗近阈值处理器上的大小适应神经网络

该论文研究了在边缘人工智能应用中实现接近亚阈值处理器的能源节约，并提出了改进策略，同时保持了应用的准确性。通过采用一些新的神经网络策略，作者成功地实现了在能效比与准确性之间的平衡。

Apr, 2023

量化的记忆增强神经网络

本文研究使用量化方法对记忆扩充神经网络（MANN）进行压缩。经过深入探究，作者发现记忆寻址是影响性能的主要因素，并提出了一种鲁棒的量化方法来解决这个挑战。在实验中，该方法在计算能量和错误率方面比传统技术都有较大的改进。

Nov, 2017

一种支持新兴神经编码的资源高效脉冲神经网络加速器

该研究提出了一种新型硬件体系结构，可支持具有新型神经编码的 SNN，并在 FPGA 上对 VGG 神经网络模型进行了部署，从而实现了 25％的功耗和 90％的延迟改善。

Jun, 2022

基于二次幂量化的神经网络能效硬件加速

通过使用二次幂量化和基于位移乘累加运算代替传统的乘累加运算，以及基于对数量化的新型剪枝方法，本文在基于 Zynq UltraScale + MPSoC ZCU104 SoC FPGA 的硬件神经网络加速器中实现了 Power-of-Two (PoT) 权重，实现了至少 $1.4x$ 的能效提升。

Sep, 2022