Nov, 2017

神经网络的种群式训练

PDF
TL;DR本文提出了 Population Based Training 算法，该算法通过优化神经网络模型和超参数的选择，以最大化模型性能，并自动发现超参数的调整进度表以及模型选择。该算法在深度强化学习领域得到了成功的应用。
neural networkspopulation based traininghyperparametersoptimisation algorithmdeep reinforcement learning
发现论文，激发创造
  • 强化学习中的超参数优化的泛化基于人口的训练

    通过引入更灵活、更具体的超参数适应框架 Generalized Population-Based Training 和综合性的 Pairwise Learning 策略，我们的方法在自适应性和计算效率方面显著优于传统的 Population-Based Training，并且在一系列增强学习基准测试中持续优于传统的 PBT 和其贝叶斯优化变体。

    Apr, 2024

  • 基于种群的赌博机在线超参数优化的可证明有效性

    本论文提出了 Population-Based Bandits (PB2) 这一算法，采用概率模型来更高效地搜索超参数配置，从而在计算资源有限的情况下发现高性能的超参数配置。在一系列强化学习实验中，证明了 PB2 可以在适度的计算预算下实现高性能。

    Feb, 2020

  • 多目标种群训练

    本文提出了一种基于多目标协同训练的超参数优化算法 MO-PBT，实验结果表明 MO-PBT 在多个多目标超参数优化问题上表现优异，胜过其他算法。

    Jun, 2023

  • 贝叶斯生成式基于种群的训练

    本文介绍了一种自动化强化学习算法 —— 基于种群训练的方法，并提出了使用基于贝叶斯优化的信任域方法和使用代际方法在单次训练中联合学习架构和超参数的创新解决方案，通过在高度并行的 Brax 物理引擎中验证得到了良好的性能。

    Jul, 2022

  • 使用基于人口的训练加速和改进 AlphaZero

    本文提出使用基于人口的训练 (PBT) 方法动态调整超参数并在训练过程中提高模型性能，证明该方法在 9x9 Go 上获得了更高的胜率，在 19x19 Go 上相比于 AlphaZero 的饱和版本获得了更高的胜率 (74% vs 47%)

    Mar, 2020

  • 缩放扰动改进种群训练期间的神经架构搜索中的架构混合

    通过同时训练和混合神经网络，我们展示了神经架构搜索中同时训练和混合神经网络是一种有前景的方法。我们提出了 PBT-NAS，将 PBT 算法适应到 NAS 中，在训练过程中通过将表现较差的网络替换为混合表现较好网络的结果，并使用收缩扰动技术继承权重来改进架构。PBT-NAS 具有高度可并行化和有效性：在挑战性任务（图像生成和强化学习）上，与基准（随机搜索和基于突变的 PBT）相比，PBT-NAS 实现了更优越的性能。

    Jul, 2023

  • 为高效的基于人口的自动强化学习在线调节混合输入超参数

    本文介绍了一种新的自动化强化学习算法，使用一种特定的时间变化 bandit 算法来优化持续性和类别性变量的集成，提高了 Procgen 基准测试的泛化性能。

    Jun, 2021

  • PABO: 伪代理多目标贝叶斯超参数优化用于高效神经加速器设计

    本文提出一种新的基于伪代理的多目标深度神经网络和硬件超参数优化方法，主要为 memristive 交叉栅极加速器设计高精度且具有硬件效率的 DNN，使用了基于贝叶斯优化的方法实现在保证硬件成本效益的前提下提高 DNN 性能，得到的 PABO 优化结果在准确性和计算速度上都优于现有最先进的方法。

    Jun, 2019

  • 可传递的神经过程用于超参数优化

    本文提出一种基于迁移学习的自动超参数优化算法：Transfer Neural Processes (TNP)，将历史优化实验的知识转移应用到当前优化任务中，该算法在广泛的 OpenML 数据集和三个计算机视觉数据集上实现了前沿性能。

    Sep, 2019

  • 基于人口的全局优化方法用于学习 RNN 中的长期依赖

    本文探讨了使用基于群体的全局优化技术（PBO）训练 RNNs 以捕获时间序列数据中的长期依赖性，通过在波动率预测应用中测试进化策略（ES）和粒子群优化（PSO），证明了 PBO 方法通常导致性能改进，而 ES 在各种体系结构中表现最为稳定。

    May, 2019