为了解决机器学习模型能耗大导致大碳足迹的问题,我们构建了能量估计流水线,通过收集高质量的能量数据和建立的预测模型,能够预测深度学习模型的能耗。
Apr, 2023
我们研究了深度学习模型在准确性和电力消耗之间的权衡,并提出一种惩罚高电力消耗的度量标准。通过评估单位电力消耗下的准确性,我们展示了更小、更能源高效的模型如何在减缓环境问题的同时显著加快研究进展。这项研究强调了深度学习优化模型效率的重要性,为更公平的竞争环境做出了贡献。
Oct, 2023
本研究分析了选择适当的模型架构和训练环境可以显著降低计算机视觉模型的能源消耗,同时保持模型正确性,也发现对于更好的能源效率,GPU 应该与模型的计算复杂度进行比例缩放。
Jul, 2023
本文通过使用深度卷积神经网络的实证研究,研究了深度学习模型的体系结构与其环境影响之间的关系,重点关注能源消耗和二氧化碳排放等方面的交易,并探讨了精度和能源效率之间的权衡,以及使用软件和硬件工具测量能量消耗的差异。
Feb, 2023
本研究通过测量、预测和评分等三个方面的研究,揭示了边缘设备中深度学习的能量消耗特征,并设计了基于内核级能量数据集的边缘设备上的内核级能量预测器,最后引入了两个评分指标,旨在将复杂的边缘设备功耗和能量消耗数据转化为易于理解的形式,以推动边缘计算中的可持续发展思维。
通过计算 T5,Meena,GShard,Switch Transformer 和 GPT-3 等几种大型模型的能源使用和碳足迹,我们发现大而稀疏的深度神经网络可以比大而密集的深度神经网络使用更少的能量,并且具有可接受的准确性。在由于地理位置和专用数据中心基础架构带来的差异方面,对机器学习的能源效率进行度量是具有挑战性的,但我们相信通过明确计算能源消耗和碳足迹,并与开发人员合作,将能源使用作为关键指标来评估模型,可以帮助减少机器学习的碳足迹。
Apr, 2021
我们提出了一种启发式算法,通过在低强度时期使用更大、更高精度的模型,在高强度时期使用更小、更低精度的模型,从而使 DNN 推理更加可持续,减少能源消耗和碳足迹。我们还引入了一个指标,即碳排放效率,以量化自适应模型选择在碳足迹方面的有效性。评估结果显示,所提出的方法可以将视觉识别服务的准确性在碳排放效率方面提高 80%。
Mar, 2024
本研究旨在通过研究绿色机器学习,考察不同模型架构和超参数在训练和推理阶段中的能效实践,以提供可持续的机器学习操作的实用指南,强调降低能耗和碳足迹同时保持性能。
Jun, 2024
本文介绍了一种名为 Benchmark-Tracker 的基准测试工具,该工具能够通过软件收集能源信息,从而评估人工智能和深度学习算法的速度和能耗,并在实验中展示了其潜力。
Nov, 2022
过去十年来,深度学习模型在各种视觉感知任务中取得了显著进展,但其高计算资源需求限制了其在实际应用中的可行性。本综述通过四个关键领域的研究,即轻量级骨干模型的发展、面向特定计算机视觉任务的专用网络架构或算法、深度学习模型压缩技术以及在硬件平台上部署高效深度网络的策略,对计算效率高的深度学习进行了广泛分析,并讨论了该领域面临的关键挑战和未来研究方向。
Aug, 2023