本文对深度神经网络在计算机视觉领域中的重要应用指标进行全面分析，发现能耗与批次大小和架构无关，准确度和推断时间在双曲线关系中，能源约束是最大可实现准确度和模型复杂度的上限，操作次数是推断时间的可靠估计。

May, 2016

本研究提出基于稀疏多项式回归的逐层预测框架 NeuralPower，以准确预测在任何 GPU 平台上部署的卷积神经网络的能耗和运行时间。同时，我们还提出了 “能耗 - 精度比”（EPR）指标，以帮助机器学习者选择更能平衡能耗和预测准确度的 CNN 架构。实验结果表明，该框架可以提高预测精度高达 68.5％，且可以在不同 GPU 平台和深度学习软件工具上得到验证。

Oct, 2017

本文利用神经架构搜索来搜索卷积神经网络模型，以提高基于音频信号的关键词识别性能，同时保持合理的内存占用。通过不同 iable Architecture Search 技术搜索预定义细胞空间中的操作符和它们之间的连接，然后在深度和宽度上扩展发现的单元来实现具有竞争力的性能，最终在 Google 的语音命令数据集上实现 97% 的最新准确性。

Sep, 2020

本论文提出了一种新的端到端体系结构，并使用参数化 Sinc 卷积直接从原始音频中提取谱特征，实现了关键词的实时分类，其准确度高达 96.4%，序数为 62k。

Nov, 2019

本研究采用深度残差学习和扩张卷积探索了关键词检测任务的应用，使用 Google Speech Commands 数据集作为基准。我们的最佳残差网络实现在准确性方面明显优于 Google 以前的卷积神经网络。通編变化模型深度和宽度，我们可以实现比以前的小型脚本变体更优秀的紧凑型模型。据我们所知，我们是第一个研究这些方法的关键词检测任务的人，我们的结果建立了一个开源的最新参考来支持未来基于语音的接口的开发。

Oct, 2017

本研究提出了一种新的基于能量消耗估计的卷积神经网络 (CNNs) 剪枝算法，该算法比以前的算法更加激进，并具有更高的准确性，AlexNet 和 GoogLeNet 的能量消耗分别降低了 3.7x 和 1.6x，用于降低卷积神经网络在移动设备上的能量消耗的新工具和模型都可在链接网站上找到。

Nov, 2016

调查了大规模神经网络训练的实际能耗，并介绍了 BUTTER-E 数据集，分析了数据集大小、网络结构和能量消耗之间的复杂关系，提出了一个能量模型，挑战了参数或 FLOP 减少是实现更高能效的最佳方法的假设，并建议在网络、算法和硬件设计上采用综合方法来实现能量效率。

Mar, 2024

通过利用脉冲神经网络的能效优势，我们提出了一种端到端轻量级的关键词识别模型，其中包括全局 - 局部脉冲卷积模块和瓶颈 - 脉冲增强模块，通过精心设计的特征提取方法，实现了更稀疏、更能源高效且性能更好的语音特征提取，进一步通过瓶颈 - 脉冲增强模块处理信号以实现更高的准确性和更少的参数。在 Google 语音命令数据集（V1 和 V2）上进行了大量实验，结果表明我们的方法在脉冲神经网络关键词识别模型中以更少的参数实现了竞争性能。

Jun, 2024

通过引入一个复合分数来衡量精确度和功耗在神经网络推断过程中的权衡，本文提出了一个新的开源工具，使研究人员能够考虑更多的指标，包括细粒度的功耗、RAM/CPU/GPU 利用率，以及存储和网络的输入 / 输出。该方法被用于探索神经网络的能耗和精确度之间的折衷，同时也有助于对比两种架构，以更准确地适配硬件和进行架构探索。

Oct, 2023

本文提出了一种对情感分析中高效的卷积神经网络进行压缩的方法，该方法包含量化和修剪过程，并展示了将压缩后的网络映射到 FPGA 的方法及其实现结果，实验表明实现 5 位宽度即可达到与浮点数相近的精度且达到了较大的内存占用空间减少（从 85% 到 93%）。

May, 2018