本文介绍了一种名为 Benchmark-Tracker 的基准测试工具，该工具能够通过软件收集能源信息，从而评估人工智能和深度学习算法的速度和能耗，并在实验中展示了其潜力。

Nov, 2022

建立在生成式、多用途 AI 系统基础上的商业 AI 产品近年来越来越受欢迎，然而，由于这些系统所需的能源和排放的碳量的增加，这种 “通用性” 的雄心勃勃使环境付出了巨大代价。在这项工作中，我们首次对各类机器学习系统的持续推理成本进行了系统比较，既包括特定任务的（即执行单一任务的微调模型），也包括多任务的（即为多个任务训练的）“通用型” 模型。我们以执行 1000 次推理在典型基准数据集上所需的能源和碳排放作为部署成本进行度量。我们发现，就各种任务而言，相比于特定任务的系统，多用途、生成式结构的模型成本高出若干数量级，即便在控制模型参数数量时也是如此。我们最后讨论了部署多用途生成型机器学习系统的当前趋势，并警示应更加有意识地权衡其效用与能源和排放上升之间的成本。我们的研究数据可通过交互演示获得，以进行进一步探索和分析。

Nov, 2023

为了解决机器学习模型能耗大导致大碳足迹的问题，我们构建了能量估计流水线，通过收集高质量的能量数据和建立的预测模型，能够预测深度学习模型的能耗。

Apr, 2023

本文通过使用深度卷积神经网络的实证研究，研究了深度学习模型的体系结构与其环境影响之间的关系，重点关注能源消耗和二氧化碳排放等方面的交易，并探讨了精度和能源效率之间的权衡，以及使用软件和硬件工具测量能量消耗的差异。

Feb, 2023

调查了大规模神经网络训练的实际能耗，并介绍了 BUTTER-E 数据集，分析了数据集大小、网络结构和能量消耗之间的复杂关系，提出了一个能量模型，挑战了参数或 FLOP 减少是实现更高能效的最佳方法的假设，并建议在网络、算法和硬件设计上采用综合方法来实现能量效率。

Mar, 2024

从设备到算法的计算层面的能耗估计和分析揭示了能源使用的影响因素。这项研究还对包括人工智能 / 机器学习在自然语言处理、科学模拟和加密货币挖掘等三个大规模计算应用领域的能源需求进行了估算。此外，对人工智能 / 机器学习加速器的分析显示，使用较旧的半导体技术节点的体系结构比使用较新技术的不同体系结构具有相当的能效。这些能耗估算强调了计算中能源效率的重要性，包括将能源作为设计参数，以满足数字世界中计算密集型应用的不断增长的需求。

Oct, 2023

本文探究了人工智能资源感知和可持续性的问题，强调评估和报告能源效率取舍的重要性，研究发现不同的数据集都有自己的效率取舍，方法可以更或 weniger 地表现得高效。

Apr, 2023

通过引入一个复合分数来衡量精确度和功耗在神经网络推断过程中的权衡，本文提出了一个新的开源工具，使研究人员能够考虑更多的指标，包括细粒度的功耗、RAM/CPU/GPU 利用率，以及存储和网络的输入 / 输出。该方法被用于探索神经网络的能耗和精确度之间的折衷，同时也有助于对比两种架构，以更准确地适配硬件和进行架构探索。

Oct, 2023

AI 的碳排放问题及效率优化的机会和可持续性

Jun, 2024

本研究通过测量、预测和评分等三个方面的研究，揭示了边缘设备中深度学习的能量消耗特征，并设计了基于内核级能量数据集的边缘设备上的内核级能量预测器，最后引入了两个评分指标，旨在将复杂的边缘设备功耗和能量消耗数据转化为易于理解的形式，以推动边缘计算中的可持续发展思维。

Oct, 2023