自动梯度提升
使用贝叶斯优化和特征选择技术,全自动选择机器学习算法和设置其超参数,在21个数据集的分类表现中达到了比标准选择/超参数优化方法更好的结果。
Aug, 2012
该论文提出了一种自动化的并行无导数优化框架——Autotune,它结合了多种专业的采样和搜索方法,可有效地调整机器学习模型的超参数,从而提高模型质量和训练效率,并通过并行计算和分布式训练优化算法的资源性能。
Apr, 2018
本文提出了一种元学习方法,利用先前的元数据自动搜索高性能的机器学习管道以完成模型选择和超参数优化,该方法结合自适应贝叶斯回归模型、神经网络基函数和贝叶斯优化的收获函数,能够在监督分类数据集上高效地搜索预定义的候选管道,实验结果表明,该方法在一系列测试数据集上能够快速确定高性能的机器学习管道,并胜过基线方法。
Apr, 2019
这篇综述旨在推广对自动化/自主机器学习系统的更广阔视角,并探讨整合各种机制和理论框架的最佳方式。主要介绍超参数优化、多组件模型、神经架构搜索、自动特征工程、元学习、多层集成、动态自适应、多目标评估、资源限制、灵活的用户参与和泛化原则的发展。最终得出结论,建立自动化机器学习系统的架构整合是一个值得更深入探讨的重要问题。
Dec, 2020
本研究提出了一种基于梯度提升的代理模型,并使用分位数回归来提供未观察到的超参数设置的性能的乐观估计,同时结合未观察到和观察到的超参数设置之间的距离度量来帮助调节探索。经实证表明,该方法能够在一系列分类问题中优于一些最新的技术。
Jan, 2021
提出了一种AutoML系统,其构建了可解释的加法模型,使用高度可扩展的分量提升算法进行拟合,提供了易于模型解释的工具,并且在预测性能上与其他基于AutoML比较系统相媲美,更易于使用和透明。
Sep, 2021
SigOpt Mulch是一种旨在自动调整GBTs超参数的、具有模型感知能力的超参数调优系统,通过元学习和多保真度优化等技术实现模型感知型超参数的优化,减少了用户领域知识的需求,从而比现有黑盒超参数调优系统更高效、更无缝、更用户友好地实现了GBTs优秀的超参数识别。
Jul, 2023
自动化机器学习(AutoML)是一个研究领域,专注于开发自动生成机器学习模型的方法。本文提出了一个建立通用AutoML系统的参考框架,并通过对该领域主要方法的叙述性回顾,提炼了基本概念以支持其设计,并讨论了AutoML应用中的一些未解决问题,以供未来研究参考。
Aug, 2023