green ai | BriefGPT - AI 论文速递

关键词green ai

搜索结果 - 10

TextGram：迈向更好的领域自适应预训练
衡量和减少大型语言模型训练过程中产生的碳排放量对于绿色人工智能至关重要。我们提出了一种领域自适应数据选择方法 - TextGram，能够有效地从大规模语料库中选择关键数据，并展示了该策略在文本分类任务中相对于其他选择方法的优势。
PDF2 months ago
测量深度神经网络的能量消耗与效率：实证分析与设计建议
调查了大规模神经网络训练的实际能耗，并介绍了 BUTTER-E 数据集，分析了数据集大小、网络结构和能量消耗之间的复杂关系，提出了一个能量模型，挑战了参数或 FLOP 减少是实现更高能效的最佳方法的假设，并建议在网络、算法和硬件设计上采用综
PDF4 months ago
基于机器学习的系统的绿色建筑策略综合
通过分析 51 篇与 Green AI 相关的同行评审出版物和三位专家的焦点小组讨论，我们提供了 30 种 ML-enabled 系统的绿色架构策略的目录，旨在填补这一领域缺口，并且为进一步探索软件工程角度的 Green AI 和设计可持续
PDF7 months ago
通过自适应反向传播实现大规模语言模型微调中的绿色人工智能
通过评估不同张量的反向传播成本和对精调模型准确性的贡献，选择最适合的张量集以最小化训练成本，并实现 FLOPs 的减少，GreenTrainer 技术相较于整个 LLM 模型的精调可节省高达 64% 的 FLOPs，同时不会显著降低模型准确
PDF9 months ago
一种面向同质周期时间序列的普适异常检测数据集融合算法
该论文提出了一种名为 “Dataset Fusion” 的算法，该算法利用神经网络技术实现了多个同质数据集的用于异常检测的融合，并在 “绿色 AI” 理念的指导下，实现了在保证性能的同时减小计算量。测试结果表明，该算法在现实世界中具有很大的
PDFa year ago
绿色人工智能的系统性评估
通过对 98 个文献的分析，系统地回顾了绿色人工智能研究领域。大多数研究关注于 AI 模型的环境可持续性，包括监控 AI 模型的排放量、调整超参数以提高模型的可持续性，或者对模型进行基准测试。实验室实验是最常见的研究策略。报告的节能率高达
PDFa year ago
利用张量网络走向绿色人工智能 - 通过高效算法实现可持续性与创新
本文提出了一种可持续且环保的 AI 研究工具 ——tensor networks，它可在不降低准确率的前提下提高算法效率，从而为 Green AI 开创更好的算法方向。
PDF2 years ago
数据中心绿色人工智能：一项探索性实证研究
本文旨在通过实证研究来评估数据集修改对人工智能能源效率的影响。实验结果表明，可以通过仅对数据集进行修改（数据点数和特征数），显著降低（高达 92.16%）能耗并几乎不降低准确性。此外，本文还证明了通过更改算法能够实现节能（高达两个数量级）。
PDF2 years ago
HyperMixer：基于 MLP 的绿色 AI 替代 Transformer
本文提出 HyperMixer 模型，通过使用超网络动态形成令牌混合 MLP 实现自然语言理解，相比于现有的 MLP-based 模型和 Transformer，在处理时间、训练数据和超参数调整方面具有更低的成本，并在实证中表现更好。
PDF2 years ago
EMNLP基于经验解释的高效解释方法
通过特征归因建模，我们探讨了 Empirical Explainers 在语言领域的训练和测试等，发现 Empirical Explainers 可以很好地模拟其昂贵的对应物，同时又只需一小部分成本，在允许出现逼近误差的应用中，可以有效减轻
PDF3 years ago