关键词accuracy-efficiency trade-offs
搜索结果 - 2
- Watt 为何物:重新思考深度学习的能耗和性能关系
我们研究了深度学习模型在准确性和电力消耗之间的权衡,并提出一种惩罚高电力消耗的度量标准。通过评估单位电力消耗下的准确性,我们展示了更小、更能源高效的模型如何在减缓环境问题的同时显著加快研究进展。这项研究强调了深度学习优化模型效率的重要性,为 - 迈向更好的准确性和效率平衡:分而协同训练
通过将大型神经网络分解成多个小型网络,并通过共同训练和学习来提高网络的多样性,小型网络可以在不增加参数和 FLOPs 的情况下实现更好的集成性能和更快的推理速度。我们在八个不同的神经结构和常见基准测试中验证了该论点,代码可在 https:/