Feb, 2024

AutoMMLab：自然语言指令生成计算机视觉任务的可部署模型

PDF
TL;DRAutoMMLab 是一个通用的、基于 LLM（语言模型）驱动的 AutoML 系统，通过用户友好的语言界面，自动化计算机视觉任务的整个模型生产流程，并利用 LLM 作为桥梁连接 AutoML 和 OpenMMLab 社区，使非专家个体能够轻松构建特定任务的模型。
automated machine learningautommlabllm-empowered automl systemcomputer vision tasksend-to-end model production workflow
发现论文，激发创造
  • 实践中自动化机器学习的通用配方

    自动化机器学习（AutoML）是一个研究领域，专注于开发自动生成机器学习模型的方法。本文提出了一个建立通用 AutoML 系统的参考框架，并通过对该领域主要方法的叙述性回顾，提炼了基本概念以支持其设计，并讨论了 AutoML 应用中的一些未解决问题，以供未来研究参考。

    Aug, 2023

  • 大型语言模型与自动化机器学习的协同效应

    使用大型语言模型 (LLMs) 驱动的代码生成在最近变得越来越流行。然而，自动生成机器学习 (ML) 任务的代码仍然面临着重大挑战。本文通过结合 LLMs 和自动化机器学习 (autoML) 来探索 ML 程序合成的极限，旨在完全自动化从数据准备到建模和后处理的整个 ML 工作流程的代码生成过程，只使用 ML 任务的文本描述。

    May, 2024

  • 自动化机器学习：业务分析中的 AI 决策

    本文分析了自动机器学习在企业分析应用中的潜力，并将 H2O AutoML 框架与手工调整的 ML 模型在三个真实数据集上进行了基准测试，发现 H2O AutoML 框架快速、易用、可靠，表现接近手工调优的 ML 模型，是一个有价值的工具，能够支持快速原型设计，缩短开发和部署周期，并能够弥合 ML 专家供需之间的差距。

    May, 2022

  • 自动分量提升：可解释性自动机器学习系统

    提出了一种 AutoML 系统，其构建了可解释的加法模型，使用高度可扩展的分量提升算法进行拟合，提供了易于模型解释的工具，并且在预测性能上与其他基于 AutoML 比较系统相媲美，更易于使用和透明。

    Sep, 2021

  • 大语言模型时代的 AutoML：现有挑战、未来机遇和风险

    本文探索了自然语言处理和自动化机器学习之间的共生关系，重点关注了 LLMs 能为 AutoML 方法提供的机会，以及 AutoML 对于改进 LLMs 所带来的挑战，目的在于促进两个领域更深入的探索。

    Jun, 2023

  • 局限严重应用中的自动机器学习

    本文提出了一种名为 Caml 的元学习方法，可以自动适应其自身 AutoML 参数，以优化特定任务的高性能管道，并可以考虑用户定义的应用约束条件，以获得满足约束条件的高预测性能的管道。

    Jun, 2023

  • 大容量元排序系统的自动机器学习

    我们提出了一种基于采样的 AutoML 方法，主要关注神经结构搜索和超参数优化，用于解决在构建大规模容量模型时的元规模生产中的挑战。我们的方法通过使用轻量级基于预测器的搜索器和强化学习来探索广泛的搜索空间，显著减少了模型评估的数量，在 CTR 和 CVR 应用的大容量建模实验中表现出杰出的投资回报率（ROI），相对于人工调优的基准，通过从精选的搜索空间中平均抽样一百个模型，达到高达 0.09% 的归一化熵（NE）损失减少或 25% 的每秒查询量（QPS）增加。我们的 AutoML 方法已经在实际应用中取得了成效，在 Instagram CTR 模型的大规模在线 A/B 测试中达到了高达 - 0.36% 的 NE 增益（相比现有的生产基准），并显示出统计上的显著改进。这些生产结果证明了 AutoML 的功效，并加速了它在 Meta 排名系统中的采用。

    Nov, 2023

  • 自动调查挑战

    我们提出了一种新颖的平台，用于评估大型语言模型（LLMs）自主撰写和评论跨科学、人文、教育和法律等各个学科的调研论文的能力。这个框架中，人工智能系统通过模拟同行评审机制进行操作，类似于传统学术期刊，人类组织者担任编辑监督职责。在这个框架内，我们为 2023 年 AutoML 会议组织了一次竞赛。参赛者的任务是根据指定提示撰写独立的文章，并对其进行评估。评估标准包括清晰度、参考文献适当性、责任性和内容的实质价值。本文介绍了竞赛的设计，包括实施基线提交和评估方法。

    Oct, 2023

  • AutoML: 现有技术的概述

    本文综述了自动机器学习领域中的最新研究进展，包括数据准备、特征工程、超参数优化和神经架构搜索等方面，并着重探讨了神经架构搜索的性能和发展方向，指出目前自动机器学习领域的存在的问题及未来研究方向。

    Aug, 2019

  • AutoML-GPT：使用 GPT 进行自动化机器学习

    AutoML-GPT 是一种使用大型语言模型和任务导向提示的自动化训练管道，可自动处理数据、选择最佳模型架构和超参数优化，并在计算机视觉、自然语言处理等领域实现了显著的结果，对于许多 AI 任务具有广泛的适用性。

    May, 2023