机器学习和人工智能领域的快速发展引出了像 Hugging Face（HF）这样的平台作为模型开发和共享的中心枢纽。本研究报告综合了两项关于 HF 的综合研究，着重关注碳排放、ML 模型的演化和维护方面。我们的目标是为将来从事 HF 生态系统内的软件库研究的研究人员提供实用指南，以提高这些研究的质量。我们深入研究了在我们的研究中使用的复制包的复杂性，突出了促进分析的关键工具和方法。此外，我们提出了一种细致的分层抽样策略，专为多样化的 HF Hub 数据集量身定制，以确保一种代表性和全面的分析方法。该报告还介绍了初步指南，从库挖掘过渡到群体研究，在 HF 上下文的 ML 模型研究中建立因果关系。这种过渡受到现有框架的启示，并进行了适应以适应 HF 模型生态系统的独特特点。我们的报告为研究人员提供了一个指导性框架，有助于负责任和可持续的 ML 进展，并促进对 ML 模型更广泛影响的深入理解。

Feb, 2024

通过采用四种最佳实践方法能将机器学习的培训能源降低 100 倍及 CO2 排放量降低 1000 倍。如果整个机器学习领域采用最佳实践，将会减少训练的碳排放量。因此，我们建议机器学习论文中应当明确列出碳排放数据以促进关于模型质量以外的更广泛的竞争。

Apr, 2022

本文介绍了 Carbontracker 工具，它可以跟踪和预测深度学习模型的能源和碳足迹，并提出报道模型开发和训练的能源和碳足迹，以促进机器学习的负责任计算和鼓励深层神经网络的能源效率研究。

Jul, 2020

本文提出了一个机器学习排放计算器工具，并阐述了影响神经网络训练中所产生的碳排放量的重要因素有哪些，以及个人从业者和组织可以采取的具体行动来减少排放。

Oct, 2019

通过引入一种功能框架，我们可以实现实时跟踪机器学习的能源消耗和碳排放，并生成标准化的在线附录。利用此框架，我们创建了一个能源高效强化学习算法排行榜，以激励负责任的研究，并提出了减少碳排放和节约能源的策略，以推动机器学习领域的可持续发展。

Jan, 2020

介绍了针对机器学习模型训练期间能源消耗量的多种在线和软件工具，并对这些工具的特定词汇、技术要求进行了评估和比较，并提供了一些建议。

Jun, 2023

通过计算 T5，Meena，GShard，Switch Transformer 和 GPT-3 等几种大型模型的能源使用和碳足迹，我们发现大而稀疏的深度神经网络可以比大而密集的深度神经网络使用更少的能量，并且具有可接受的准确性。在由于地理位置和专用数据中心基础架构带来的差异方面，对机器学习的能源效率进行度量是具有挑战性的，但我们相信通过明确计算能源消耗和碳足迹，并与开发人员合作，将能源使用作为关键指标来评估模型，可以帮助减少机器学习的碳足迹。

Apr, 2021

该研究评估了大规模语言模型的二氧化碳排放，并提出减少碳排放的措施，探讨了硬件选择对二氧化碳排放的影响。基于结果，提出了培训更环境友好的人工智能模型的可能性，并认为可以在不牺牲其鲁棒性和性能的情况下实现。

Apr, 2024

通过对超过 380,000 个使用 Hugging Face Hub API 收集的数据进行仓库挖掘研究，旨在探索 Hugging Face 上托管的机器学习模型的社区参与、演化和维护等方面，以期为平台上未来的模型开发策略提供有价值的信息。

Nov, 2023

大型语言模型的碳足迹估算对于新的神经网络的训练前有重要意义，现有研究已报告了训练过程中的碳足迹，然而现有工具在估算碳足迹时存在一些严重限制，为填补这些空白，我们引入了 LLMCarbon，一个端到端的碳足迹预测模型，可以显著提高大型语言模型的碳足迹估算的准确性。

Sep, 2023