自动梯度提升
提出了一种多准则的 AutoML 系统,优化了用户定义的辅助标准,以引导搜索达到最佳的机器学习流程,以此来满足人工智能应用中不同的需求。
Aug, 2019
本文提出了一种元学习方法,利用先前的元数据自动搜索高性能的机器学习管道以完成模型选择和超参数优化,该方法结合自适应贝叶斯回归模型、神经网络基函数和贝叶斯优化的收获函数,能够在监督分类数据集上高效地搜索预定义的候选管道,实验结果表明,该方法在一系列测试数据集上能够快速确定高性能的机器学习管道,并胜过基线方法。
Apr, 2019
提出了一种 AutoML 系统,其构建了可解释的加法模型,使用高度可扩展的分量提升算法进行拟合,提供了易于模型解释的工具,并且在预测性能上与其他基于 AutoML 比较系统相媲美,更易于使用和透明。
Sep, 2021
本文分析了自动机器学习在企业分析应用中的潜力,并将 H2O AutoML 框架与手工调整的 ML 模型在三个真实数据集上进行了基准测试,发现 H2O AutoML 框架快速、易用、可靠,表现接近手工调优的 ML 模型,是一个有价值的工具,能够支持快速原型设计,缩短开发和部署周期,并能够弥合 ML 专家供需之间的差距。
May, 2022
本文研究了三个软件 Gradient Boosting Decision Trees (GBDTs) packages: XGBoost, LightGBM 和 Catboost 的 GPU 加速性能以及在超参数优化方面的比较,并注意到 GBDTs 的许多超参数需手动调整或自动优化,以达到最佳预测能力。
Sep, 2018
使用贝叶斯优化和特征选择技术,全自动选择机器学习算法和设置其超参数,在 21 个数据集的分类表现中达到了比标准选择 / 超参数优化方法更好的结果。
Aug, 2012
本研究基于贝叶斯优化框架,建立高斯过程模型,通过前期实验获得的信息来优化机器学习算法的超参数调整,作者提出可以超过经验人类调参表现的自动算法,并介绍收集实验信息、利用多核心并行实验等新算法。
Jun, 2012
本研究提出了一种基于梯度提升的代理模型,并使用分位数回归来提供未观察到的超参数设置的性能的乐观估计,同时结合未观察到和观察到的超参数设置之间的距离度量来帮助调节探索。经实证表明,该方法能够在一系列分类问题中优于一些最新的技术。
Jan, 2021
自动化机器学习(AutoML)是一个研究领域,专注于开发自动生成机器学习模型的方法。本文提出了一个建立通用 AutoML 系统的参考框架,并通过对该领域主要方法的叙述性回顾,提炼了基本概念以支持其设计,并讨论了 AutoML 应用中的一些未解决问题,以供未来研究参考。
Aug, 2023
研究表明,自动化架构搜索与基于梯度的元学习相结合,能够优化元学习器,使用此技术,预测准确率提高了 11.54%,在五次样本五种类的迷你图像分类问题中,最终的元学习器达到了 74.65%的准确率,是目前最先进的结果之一,也是在元学习背景下第一个成功的神经架构搜索。
Jun, 2018