ICMLJan, 2022

Flashlight：为机器学习工具的创新而设计

PDF
TL;DR机器学习系统的计算需求和框架的规模和复杂性不断增加，而既有框架开发的创新日益艰难。本文提出 Flashlight 开源库，通过优先考虑开放、模块化、可定制的内部和研究就绪的模型和培训设置，在各个领域实现快速原型设计和实验，为机器学习工具和系统中的创新激发推动作用，从而使机器学习和系统研究人员更加接近。
machine learning systemsframework innovationcomputational paradigmsflashlightsystems research
发现论文，激发创造
  • 巨大的幻觉：软件可移植性的神话及其对机器学习进展的影响

    主流机器学习软件框架的可移植性研究表明，在不同硬件类型间转移框架会导致超过 40% 关键功能丧失且性能严重下降，这揭示了硬件专业化对机器学习研究创新的阻碍。

    Sep, 2023

  • 一种为机器学习生成可定制光场数据集的新方法

    通过使用 Unity 和 C# 框架开发新方法，生成大规模、可伸缩和可再现的光场数据集，以加速光场深度学习研究。

    Dec, 2022

  • MLSys: 机器学习系统的新前沿

    介绍 ML 系统在实际部署中的难点，并提出在传统系统和 ML 领域交叉的新兴研究方向：ML 系统的硬件和软件实现以及针对预测精度之外的指标进行的 ML 优化，同时介绍了一个新的会议 MLSys。

    Mar, 2019

  • 使用 Flux 进行时尚建模

    介绍了名为 Flux 的框架，它建立在 Julia 编程语言的基础上，是一种简单易用、高性能的可微编程框架，该框架的实现展示了许多语言和框架级特性，内部编译器技术也获得了加速和高性能。

    Nov, 2018

  • Flashlight：利用有效解码器扩展的可扩展链接预测

    该研究通过使用 Flashlight 算法与适应性调整的查询嵌入，提高 HadamardMLP 预测算法中的邻居预测速度，从而为大规模链路预测应用程序开辟了道路。

    Sep, 2022

  • FLAML: 一个快速轻量级的 AutoML 库

    研究使用低计算成本自动选择学习器和超参数的问题，FLAML 是一个快速而轻量级的库，它能够根据给定的训练数据集和误差指标来优化计算资源的使用，同时在多个方面对试验成本和模型误差进行了研究并提出了设计指南，并整合了多种简单而有效的搜索策略，在相同或更少的预算限制下在大型开源 AutoML 基准测试中显著优于排名前列的 AutoML 库。

    Nov, 2019

  • 实时机器学习：遗失的部分

    针对机器学习在实时决策中的应用，提出需要一种新的分布式执行框架来实现毫秒延迟、高吞吐、任务图的自适应构建以及异构内核的执行等一系列要求，并提出了一个候选方案，其架构已经获得了 63 倍的性能提升。

    Mar, 2017

  • FL_PyTorch：联邦学习优化研究模拟器

    FL_PyTorch 是一个基于 PyTorch 框架的开源软件套件，用于构建一种 FL 研究模拟器，旨在使研究人员能够快速开发、原型测试和实验新的和现有的 FL 优化算法，从而缓解常见边缘设备设置的异质性问题。

    Feb, 2022

  • 开放式 MatSci ML 工具包：材料科学机器学习的灵活框架

    介绍了 Open MatSci ML 工具包，即可扩展、自包容能力强，并使用 Python 框架基于深度学习模型和方法对科学数据进行处理，特别关注材料科学和 OpenCatalyst 数据集，展示了这一工具包为新机器学习研究人员和 OpenCatalyst 数据集应用高级机器学习工具等科学挑战提供了无缝的解决方案，并为某些材料的行为提供了建模。

    Oct, 2022

  • NSML：一种机器学习平台，使您专注于您的模型

    我们提出了一个名为 NAVER Smart Machine Learning (NSML) 的系统，用于处理机器学习任务中的 GPU 分配、可视化学习状态、处理模型参数快照、超参数修改以及性能指标比较等任务，通过实验确认其能够提升模型开发效率。

    Dec, 2017