Nov, 2023

基于知识的自动机器学习架构

PDF
TL;DR该论文提出了一种以知识驱动的自动机器学习架构，用于管道和深度特征的合成，旨在使自动机器学习过程可解释，并在管道和特征的合成中利用领域知识。该架构探索了几个创新理念：首先，以统一的方式构建管道和深度特征；其次，通过一个共享的知识系统进行合成，可以交互式地查询要使用的管道操作或计算的特征；最后，合成过程在运行时使用部分解决方案和其在数据上应用的结果来进行决策。进行了两个实验来演示所提议的架构的基本实现功能，并讨论了其优势、权衡以及在自动机器学习中的未来潜力。
发现论文，激发创造
  • SapientML: 通过从人类编写的解决方案中学习来综合机器学习流水线

    本文提出了一种名为 SapientML 的自动机器学习技术，通过从现有数据集中学习人类编写的管道，实现针对新数据集的高质量管道的快速生成，采用了一种三阶段程序合成方法来进行搜索空间的有效管理。评估结果表明，在 41 个基准数据集中，SapientML 在 27 个基准数据集上的表现最佳或与最佳工具相当。

    Feb, 2022

  • AutoML: 现有技术的概述

    本文综述了自动机器学习领域中的最新研究进展，包括数据准备、特征工程、超参数优化和神经架构搜索等方面，并着重探讨了神经架构搜索的性能和发展方向，指出目前自动机器学习领域的存在的问题及未来研究方向。

    Aug, 2019

  • AutoML 的深度管道嵌入

    本文提出一种新的神经架构，将 Machine Learning pipeline 的组件嵌入到潜在表示中，通过 Bayesian Optimization 机制中的深度内核高斯过程模型在 meta-datasets 上搜索优化最优的 pipeline 嵌入，实验结果表明 pipeline 嵌入可以在 Pipeline Optimization 中取得最优结果。

    May, 2023

  • 使用基于模型的强化学习和语法合成进行管道合成的自动化机器学习

    AlphaD3M 使用自我博弈的强化学习实现 AutoML 并创造最新状态，之后通过运用管道语法和预训练模型进一步改进，取得了 AutoML 分类和回归任务基准数据集方面的表现优于现有方法的结果。

    May, 2019

  • 数据增强策略和网络结构的联合搜索

    本文提出了一种联合优化模型，实现了数据增强策略和神经网络架构的端到端优化，以实现自动化神经网络训练。实验结果显示，本方法的性能优于独立搜索的结果。

    Dec, 2020

  • AlphaD3M: 机器学习流程合成

    本文介绍了基于元强化学习使用序列模型自我训练的 AlphaD3M 自动机器学习系统。与 Autosklearn、Autostacker 和 TPOT 等最先进的 AutoML 系统相比，AlphaD3M 具有相当的性能优势并且具有可解释性，其计算时间从几小时缩短为几分钟。

    Nov, 2021

  • 深度学习和大数据应用的自动数据处理和特征工程：一项调研

    现代人工智能（AI）的方法旨在设计可以直接从数据中学习的算法，本文综述了深度学习流程中自动化数据处理任务的方法，包括数据预处理、数据增强和特征工程，并讨论了自动机器学习方法和工具在整个机器学习流程中的优化应用。

    Mar, 2024

  • 利用知识图谱进行可解释特征生成

    KRAFT 是一个 AutoFE 框架，利用知识图谱来指导生成可解释特征，通过神经生成器和基于知识的推理器结合的混合 AI 方法来提高预测准确性和生成特征的可解释性。实验证明，KRAFT 在提高准确性的同时保证了较高的可解释性。

    Jun, 2024

  • 迈向广泛学习：医疗领域实验

    本研究提出了一种广泛学习架构，尝试自动化机器学习 (Machine Learning) 管道中的特征工程部分。该方法在三个医疗数据集上进行测试，并取得了最先进技术的优于表现。其中一些案例达到满意的性能所需的时间大大降低（几天），且准确率高达 94.38%。

    Dec, 2016

  • 局限严重应用中的自动机器学习

    本文提出了一种名为 Caml 的元学习方法，可以自动适应其自身 AutoML 参数，以优化特定任务的高性能管道，并可以考虑用户定义的应用约束条件，以获得满足约束条件的高预测性能的管道。

    Jun, 2023