May, 2023

AutoML 的深度管道嵌入

PDF
TL;DR本文提出一种新的神经架构，将 Machine Learning pipeline 的组件嵌入到潜在表示中，通过 Bayesian Optimization 机制中的深度内核高斯过程模型在 meta-datasets 上搜索优化最优的 pipeline 嵌入，实验结果表明 pipeline 嵌入可以在 Pipeline Optimization 中取得最优结果。
automated machine learningautomlmachine learning systemspipeline optimizationbayesian optimization
发现论文，激发创造
  • SapientML: 通过从人类编写的解决方案中学习来综合机器学习流水线

    本文提出了一种名为 SapientML 的自动机器学习技术，通过从现有数据集中学习人类编写的管道，实现针对新数据集的高质量管道的快速生成，采用了一种三阶段程序合成方法来进行搜索空间的有效管理。评估结果表明，在 41 个基准数据集中，SapientML 在 27 个基准数据集上的表现最佳或与最佳工具相当。

    Feb, 2022

  • 基于知识的自动机器学习架构

    该论文提出了一种以知识驱动的自动机器学习架构，用于管道和深度特征的合成，旨在使自动机器学习过程可解释，并在管道和特征的合成中利用领域知识。该架构探索了几个创新理念：首先，以统一的方式构建管道和深度特征；其次，通过一个共享的知识系统进行合成，可以交互式地查询要使用的管道操作或计算的特征；最后，合成过程在运行时使用部分解决方案和其在数据上应用的结果来进行决策。进行了两个实验来演示所提议的架构的基本实现功能，并讨论了其优势、权衡以及在自动机器学习中的未来潜力。

    Nov, 2023

  • 自适应贝叶斯线性回归在自动化机器学习中的应用

    本文提出了一种元学习方法，利用先前的元数据自动搜索高性能的机器学习管道以完成模型选择和超参数优化，该方法结合自适应贝叶斯回归模型、神经网络基函数和贝叶斯优化的收获函数，能够在监督分类数据集上高效地搜索预定义的候选管道，实验结果表明，该方法在一系列测试数据集上能够快速确定高性能的机器学习管道，并胜过基线方法。

    Apr, 2019

  • 数据管道培训：集成 AutoML 以优化机器学习模型的数据流

    通过整合 AutoML 与数据管道，优化数据流的自动化机器学习方法并构建高效的数据管道以适应不断变化的数据环境，从而在机器学习任务中取得更好的结果。

    Feb, 2024

  • 基于矩阵和张量分解的高效自动机器学习流水线搜索

    本文提出了一种新的 AutoML 系统，利用矩阵和张量分解作为代理模型，通过贪心实验设计协议来高效收集有关新数据集的信息，从而解决数据科学家在选择适当的监督式学习模型时面临的挑战。经过对大型实际分类问题的实验，证明了这种方法的有效性。

    Jun, 2020

  • 使用基于模型的强化学习和语法合成进行管道合成的自动化机器学习

    AlphaD3M 使用自我博弈的强化学习实现 AutoML 并创造最新状态，之后通过运用管道语法和预训练模型进一步改进，取得了 AutoML 分类和回归任务基准数据集方面的表现优于现有方法的结果。

    May, 2019

  • 局限严重应用中的自动机器学习

    本文提出了一种名为 Caml 的元学习方法，可以自动适应其自身 AutoML 参数，以优化特定任务的高性能管道，并可以考虑用户定义的应用约束条件，以获得满足约束条件的高预测性能的管道。

    Jun, 2023

  • AlphaD3M: 机器学习流程合成

    本文介绍了基于元强化学习使用序列模型自我训练的 AlphaD3M 自动机器学习系统。与 Autosklearn、Autostacker 和 TPOT 等最先进的 AutoML 系统相比，AlphaD3M 具有相当的性能优势并且具有可解释性，其计算时间从几小时缩短为几分钟。

    Nov, 2021

  • 深度学习和大数据应用的自动数据处理和特征工程：一项调研

    现代人工智能（AI）的方法旨在设计可以直接从数据中学习的算法，本文综述了深度学习流程中自动化数据处理任务的方法，包括数据预处理、数据增强和特征工程，并讨论了自动机器学习方法和工具在整个机器学习流程中的优化应用。

    Mar, 2024

  • AutoML: 现有技术的概述

    本文综述了自动机器学习领域中的最新研究进展，包括数据准备、特征工程、超参数优化和神经架构搜索等方面，并着重探讨了神经架构搜索的性能和发展方向，指出目前自动机器学习领域的存在的问题及未来研究方向。

    Aug, 2019