近年来人工智能的兴起和模型复杂度的增加已开始带来计算资源需求上的挑战，本文针对大规模 AI 方法的能源效率问题，通过对不同计算节点上深度学习模型进行测量，说明了在算法层面和未来计算集群和硬件设计方面，准确测量 AI 工作量的功耗需求之重要性，以及模型训练和推理的能耗差异，提供了降低成本、提高用户意识的解决方案。

Dec, 2022

最近的网络在嵌入式商用系统芯片上的有效性和效率进行了验证，为工程师选择最合适的卷积神经网络包和计算系统提供了指导。

Oct, 2023

研究了在低计算能力和低内存设备上部署复杂的深度学习模型的优化方法以提高推断速度，证明了硬件特定的模型优化能够有效降低能源消耗和碳足迹。

Jun, 2024

通过引入一个复合分数来衡量精确度和功耗在神经网络推断过程中的权衡，本文提出了一个新的开源工具，使研究人员能够考虑更多的指标，包括细粒度的功耗、RAM/CPU/GPU 利用率，以及存储和网络的输入 / 输出。该方法被用于探索神经网络的能耗和精确度之间的折衷，同时也有助于对比两种架构，以更准确地适配硬件和进行架构探索。

Oct, 2023

本文说明了在智能眼镜中设计和实现利用新型低功耗处理器的小型机器学习算法，以实现持续不间断运行。我们使用两个微控制器和蓝牙低功耗模块为研究平台设计了智能眼镜原型，集成了用于能耗和延迟评估的基于 YOLO 的小型深度学习模型 TinyissimoYOLO，并在原型上进行了评估，结果表明其具有良好的检测精度和能耗性能。

Nov, 2023

本文对深度神经网络在计算机视觉领域中的重要应用指标进行全面分析，发现能耗与批次大小和架构无关，准确度和推断时间在双曲线关系中，能源约束是最大可实现准确度和模型复杂度的上限，操作次数是推断时间的可靠估计。

May, 2016

本文研究了基于 Raspberry Pi 的小型关键词检测卷积神经网络的功耗，发现操作次数比模型参数数目更好地预测能耗，并证实准确度最高的模型也是最耗能的。

Oct, 2017

本文第一次详细研究了在移动增强现实客户端中，执行基于卷积神经网络的物体检测的能量消耗和检测延迟，提出了新的测量策略，从而发现了执行基于 CNN 的物体检测的能量消耗问题。结果表明，我们的实验结果为设计能有效处理基于 CNN 的物体检测的能量有效型处理流程提供了指导。

Nov, 2020

本研究提出基于稀疏多项式回归的逐层预测框架 NeuralPower，以准确预测在任何 GPU 平台上部署的卷积神经网络的能耗和运行时间。同时，我们还提出了 “能耗 - 精度比”（EPR）指标，以帮助机器学习者选择更能平衡能耗和预测准确度的 CNN 架构。实验结果表明，该框架可以提高预测精度高达 68.5％，且可以在不同 GPU 平台和深度学习软件工具上得到验证。

Oct, 2017

本研究通过测量、预测和评分等三个方面的研究，揭示了边缘设备中深度学习的能量消耗特征，并设计了基于内核级能量数据集的边缘设备上的内核级能量预测器，最后引入了两个评分指标，旨在将复杂的边缘设备功耗和能量消耗数据转化为易于理解的形式，以推动边缘计算中的可持续发展思维。

Oct, 2023