Mar, 2024

碳排放强度感知的 DNN 自适应推理

PDF
TL;DR我们提出了一种启发式算法，通过在低强度时期使用更大、更高精度的模型，在高强度时期使用更小、更低精度的模型，从而使 DNN 推理更加可持续，减少能源消耗和碳足迹。我们还引入了一个指标，即碳排放效率，以量化自适应模型选择在碳足迹方面的有效性。评估结果显示，所提出的方法可以将视觉识别服务的准确性在碳排放效率方面提高 80%。
dnn inferenceenergy consumptioncarbon footprintadaptive model selectioncarbon-emission efficiency
发现论文，激发创造
  • 实现可持续深度神经网络训练的低碳电力追求

    该论文提出了一个名为 Chase 的解决方案，通过实时监控碳强度变化和控制 GPU 的能源消耗，减少了深度学习训练的碳足迹。同时，该方案还提出了一种轻量级机器学习算法，用于预测未来时间段的碳强度，实现主动适应。在 ResNet-50 在 ImageNet 上的训练中，Chase 方案可将总碳足迹降低 13.6％，仅增加 2.5％的训练时间。

    Mar, 2023

  • 碳排放和大型神经网络训练

    通过计算 T5，Meena，GShard，Switch Transformer 和 GPT-3 等几种大型模型的能源使用和碳足迹，我们发现大而稀疏的深度神经网络可以比大而密集的深度神经网络使用更少的能量，并且具有可接受的准确性。在由于地理位置和专用数据中心基础架构带来的差异方面，对机器学习的能源效率进行度量是具有挑战性的，但我们相信通过明确计算能源消耗和碳足迹，并与开发人员合作，将能源使用作为关键指标来评估模型，可以帮助减少机器学习的碳足迹。

    Apr, 2021

  • 测量云计算实例中人工智能的碳排放强度

    该研究提供了一种衡量计算机模型碳排放的框架，并提出了在云计算平台上采取不同策略以减少碳排放的方法，为机器学习实践者提供了减少环境影响的建议。

    Jun, 2022

  • 低碳计算机视觉的全周期能耗基准

    本文提出了一种新的度量标准来衡量高效计算机视觉模型在不同应用场景下的全周期能耗，以提供在选择高效深度学习算法时降低碳排放的参考。

    Aug, 2021

  • Eco2AI: 机器学习模型碳排放跟踪 —— 可持续人工智能的第一步

    该论文介绍了一个名为 eco2AI 的开源工具，可以帮助科学家跟踪深度神经网络模型训练和推理的能量消耗和等效二氧化碳排放，并鼓励研究社区寻找具有较低计算成本的新型人工智能（AI）架构，并建立可持续 AI 和绿色 AI 的路径。

    Jul, 2022

  • Carbontracker: 跟踪和预测深度学习模型的碳足迹

    本文介绍了 Carbontracker 工具，它可以跟踪和预测深度学习模型的能源和碳足迹，并提出报道模型开发和训练的能源和碳足迹，以促进机器学习的负责任计算和鼓励深层神经网络的能源效率研究。

    Jul, 2020

  • 准确性不是唯一重要的度量标准：估计深度学习模型的能源消耗

    为了解决机器学习模型能耗大导致大碳足迹的问题，我们构建了能量估计流水线，通过收集高质量的能量数据和建立的预测模型，能够预测深度学习模型的能耗。

    Apr, 2023

  • 神经网络结构训练的能效：一项实证研究

    本文通过使用深度卷积神经网络的实证研究，研究了深度学习模型的体系结构与其环境影响之间的关系，重点关注能源消耗和二氧化碳排放等方面的交易，并探讨了精度和能源效率之间的权衡，以及使用软件和硬件工具测量能量消耗的差异。

    Feb, 2023

  • IoTCO2：评估物联网驱动的深度学习的端到端碳足迹

    为了提高隐私和保证服务质量，深度学习模型越来越多地部署在物联网设备上进行数据处理，从而显著增加了与物联网上深度学习相关的碳足迹，覆盖了运营和实体方面。本文引入了 extit {CARB}，一种用于物联网上深度学习精确估计碳足迹的端到端建模工具，通过多个 DL 模型的实际测量，演示了相对于实际测量值的碳足迹值最大的 ±21％偏差。此外，展示了 extit {CARB} 的多个用户案例研究的实际应用。

    Mar, 2024

  • 超越效率：可持续扩展人工智能

    AI 的碳排放问题及效率优化的机会和可持续性

    Jun, 2024