MMAug, 2017

单线程和多线程模式下开源机器学习框架各参数的性能分析

PDF
TL;DR比较 TensorFlow、Deep Learning4j 和 H2O 这些最常用的开源机器学习框架的基本特征，针对 MNIST 数据集测试 H2O 深度学习算法在单线程和多线程模式下的 CPU 和 GPU 效果并比较不同参数的影响，在单线程模式下证明参数的盲目选择会显著增加运行时间但精度无显著提升，该结果对优化可用和新的机器学习方法特别是图像识别问题具有至关重要的影响。
open sourcemachine learningtensorflowh2oneural networks
发现论文，激发创造
  • GPU 上的分布式深度学习框架性能建模与评估

    本研究通过评估四种最先进的分布式深度学习框架（即 Caffe-MPI，CNTK，MXNet 和 TensorFlow）在单 GPU、多 GPU 和多节点环境中的运行性能，基于 SGD 训练三种流行的卷积神经网络（即 AlexNet，GoogleNet 和 ResNet-50），分析了引起这四个框架性能差异的因素，并提出进一步优化方向。通过分析和实验研究，发现了可以进一步优化的瓶颈和开销，为算法设计和系统配置提供了改进方向。

    Nov, 2017

  • 深度学习软件框架的比较研究

    本文比较了五种深度学习框架（Caffe，Neon，TensorFlow，Theano 和 Torch）在三个方面的性能（可扩展性，硬件利用率和速度指标），并评估了它们在训练和部署各种深度学习结构时的性能。 研究结果表明：Theano 和 Torch 是最易于扩展的框架，中央处理器上最适用的框架是 Torch，然后是 Theano，此外 Caffe 可以轻松地评估标准深度结构的性能，TensorFlow 是非常灵活的框架，但目前其性能与其他研究的框架相比不具竞争力。

    Nov, 2015

  • 自动机器学习框架的基准测试

    本研究比较了多种 AutoML 工具在开源数据集上的表现，发现 auto-sklearn 在分类数据集上表现最佳，而 TPOT 在回归数据集上表现最佳。

    Aug, 2018

  • 深度学习软件工具的最新技术对标

    本文主要研究了 Caffe、CNTK、MXNet、TensorFlow 和 Torch 等最新的 GPU 加速深度学习软件工具，并通过基准测试比较了这些工具的性能。本研究旨在为终端用户选择合适的硬件平台和软件工具提供指南，并为深度学习工具的软件开发者指出未来的性能优化方向。

    Aug, 2016

  • 一个基于机器学习加速器的开源全栈优化框架

    参数化机器学习加速器可通过硬件加速深度神经网络和非神经网络的机器学习算法进行设计空间探索，其中采用了物理设计驱动的学习预测框架，结合后端功耗、性能和面积分析以及前端性能模拟，实现了对后端 PPA 和运行时能耗等系统指标的真实估计，并引入了完全自动化的设计空间探索技术，通过对架构和后端参数的自动搜索来优化后端和系统指标。实验结果表明，该方法在两种深度学习加速器平台（VTA 和 VeriGOOD-ML）的 ASIC 实现中，无论是商业 12 纳米工艺还是研究导向的 45 纳米工艺，都能以平均 7％或更低的预测误差一致准确地预测后端 PPA 和系统指标。

    Aug, 2023

  • 一个开源的 AutoML 基准测试平台

    介绍了一个开放，持续和可扩展的基准测试框架，用于比较 4 个 AutoML 系统在 39 个数据集上的表现，并通过分析结果提高比较的准确性。

    Jul, 2019

  • 并行机器学习算法的性能和能耗

    本文讨论了在高性能计算中，采用低功率算法以优化机器学习模型的效率，并测试逻辑回归、神经网络等算法在不同数据规模、模型复杂度下的并行加速表现。

    May, 2023

  • 一个旨在表征不同框架和平台下深度学习开发与部署的实证研究

    该研究对主流深度学习框架和平台在开发和部署中的影响进行了系统研究，结果表明计算差异可能导致项目的预测准确度下降，部署过程仍存在兼容性和可靠性问题，并通过发现的问题总结出实用的指南以及明确新的研究方向。

    Sep, 2019

  • 巨大的幻觉：软件可移植性的神话及其对机器学习进展的影响

    主流机器学习软件框架的可移植性研究表明，在不同硬件类型间转移框架会导致超过 40% 关键功能丧失且性能严重下降，这揭示了硬件专业化对机器学习研究创新的阻碍。

    Sep, 2023

  • AutoMLBench: 自动化机器学习框架的全面实验评估

    评估和比较了六种流行的自动机器学习框架在 100 个数据集上的性能，并考虑了时间预算、搜索空间大小、元学习和集成构建等因素对比较的影响，结果揭示了多种有趣的见解。

    Apr, 2022