AutoTransfer: 提出了一种 AutoML 的解决方案，它通过将先前的架构设计知识转移到新的任务，从而提高搜索效率，并在图机器学习领域的六个数据集上进行评估。

Mar, 2023

本文综述了自动机器学习领域中的最新研究进展，包括数据准备、特征工程、超参数优化和神经架构搜索等方面，并着重探讨了神经架构搜索的性能和发展方向，指出目前自动机器学习领域的存在的问题及未来研究方向。

Aug, 2019

本文旨在通过引入一个新颖的框架，展示 AutoML 可以进一步通过基本数学运算作为构建块自动发现完整的机器学习算法，从而大大减少人类偏见，并通过演化搜索不同类型的任务来适应算法。

Mar, 2020

我们提出了一种基于采样的 AutoML 方法，主要关注神经结构搜索和超参数优化，用于解决在构建大规模容量模型时的元规模生产中的挑战。我们的方法通过使用轻量级基于预测器的搜索器和强化学习来探索广泛的搜索空间，显著减少了模型评估的数量，在 CTR 和 CVR 应用的大容量建模实验中表现出杰出的投资回报率（ROI），相对于人工调优的基准，通过从精选的搜索空间中平均抽样一百个模型，达到高达 0.09% 的归一化熵（NE）损失减少或 25% 的每秒查询量（QPS）增加。我们的 AutoML 方法已经在实际应用中取得了成效，在 Instagram CTR 模型的大规模在线 A/B 测试中达到了高达 - 0.36% 的 NE 增益（相比现有的生产基准），并显示出统计上的显著改进。这些生产结果证明了 AutoML 的功效，并加速了它在 Meta 排名系统中的采用。

Nov, 2023

采用预训练深度神经网络层作为基块构建多任务学习系统，通过动态选择相关的先验知识、模型参数和超参数进行自动调优，控制模型规模实现高质量模型与较小的规模之间的权衡，并在 10 个多样化的图像分类任务中，相对于标准调优，提高了平均精度 2.39％而使用了每个任务 47％ 以上的参数。

May, 2022

这篇论文概述了 AutoML 在增量学习方面的潜力，强调了 AutoML 在增量学习中改进深度表示和自适应学习以适应更多真实世界任务的关键领域。

Nov, 2023

本文探讨了深度学习中的迁移学习的效果与代价，结果提供了关于使用迁移学习的指南。

Nov, 2022

本文介绍了不同层面的深度学习神经网络结构搜索方法，指出当前手动搜索神经网络结构的困难和繁琐，提出了一种基于强化学习和多任务学习的神经网络结构自动化搜索算法 -- 多任务神经模型搜索算法 (MNMS)，可用于自动化拟合多项任务，其最大的特点在于，采用了迁移学习的思路，将训练模型所获得的知识迁移到下一个任务当中，大幅度节省了搜索时间，提高了模型效果。

Oct, 2017

本研究主要关注于如何使用深度增强学习的方法，通过神经网络策略来训练机器人获取新的技能。同时，通过迁移学习，可以实现技能和机器人之间的信息共享，从而使用 mix-and-match 模块来解决新的机器人环境和任务组合的问题。

Sep, 2016

AutoMMLab 是一个通用的、基于 LLM（语言模型）驱动的 AutoML 系统，通过用户友好的语言界面，自动化计算机视觉任务的整个模型生产流程，并利用 LLM 作为桥梁连接 AutoML 和 OpenMMLab 社区，使非专家个体能够轻松构建特定任务的模型。

Feb, 2024