机器学习的碳排放量量化
通过采用四种最佳实践方法能将机器学习的培训能源降低 100 倍及 CO2 排放量降低 1000 倍。如果整个机器学习领域采用最佳实践,将会减少训练的碳排放量。因此,我们建议机器学习论文中应当明确列出碳排放数据以促进关于模型质量以外的更广泛的竞争。
Apr, 2022
通过计算 T5,Meena,GShard,Switch Transformer 和 GPT-3 等几种大型模型的能源使用和碳足迹,我们发现大而稀疏的深度神经网络可以比大而密集的深度神经网络使用更少的能量,并且具有可接受的准确性。在由于地理位置和专用数据中心基础架构带来的差异方面,对机器学习的能源效率进行度量是具有挑战性的,但我们相信通过明确计算能源消耗和碳足迹,并与开发人员合作,将能源使用作为关键指标来评估模型,可以帮助减少机器学习的碳足迹。
Apr, 2021
该研究评估了大规模语言模型的二氧化碳排放,并提出减少碳排放的措施,探讨了硬件选择对二氧化碳排放的影响。基于结果,提出了培训更环境友好的人工智能模型的可能性,并认为可以在不牺牲其鲁棒性和性能的情况下实现。
Apr, 2024
本文介绍了 Carbontracker 工具,它可以跟踪和预测深度学习模型的能源和碳足迹,并提出报道模型开发和训练的能源和碳足迹,以促进机器学习的负责任计算和鼓励深层神经网络的能源效率研究。
Jul, 2020
该论文介绍了一个名为 eco2AI 的开源工具,可以帮助科学家跟踪深度神经网络模型训练和推理的能量消耗和等效二氧化碳排放,并鼓励研究社区寻找具有较低计算成本的新型人工智能(AI)架构,并建立可持续 AI 和绿色 AI 的路径。
Jul, 2022
通过引入一种功能框架,我们可以实现实时跟踪机器学习的能源消耗和碳排放,并生成标准化的在线附录。利用此框架,我们创建了一个能源高效强化学习算法排行榜,以激励负责任的研究,并提出了减少碳排放和节约能源的策略,以推动机器学习领域的可持续发展。
Jan, 2020
本研究旨在通过研究绿色机器学习,考察不同模型架构和超参数在训练和推理阶段中的能效实践,以提供可持续的机器学习操作的实用指南,强调降低能耗和碳足迹同时保持性能。
Jun, 2024