Nov, 2022

通过元黑盒优化发现进化策略

PDF
TL;DR该研究采用元学习来探寻对进化策略更有效的更新规则，并通过自我关注机制加以参数化，其结果显示新进化策略推广到未知的优化问题、种群大小和优化目标上表现出良好的性能。研究结果还表明，所学习的进化策略可以在监督学习和连续控制任务中优于传统的神经进化算法。
发现论文，激发创造
  • 基于元黑盒优化的注意力遗传算法发现

    本文提出了一种基于数据驱动和灵活参数化的方法来发现全新的遗传算法，在各种优化任务上性能优于现有的自适应基线遗传算法，并且具有很强的泛化能力。通过对发现的运算符进行广泛的分析和消融实验，证明其参数化灵活性和可以将学到的运算符传递给传统的遗传算法。

    Apr, 2023

  • 进化变换器：基于上下文的进化优化

    通过元优化的方式，引入一种能够灵活表征一系列进化策略的因果 Transformer 架构 ——Evolution Transformer，用于从数据中直接发现强大的优化原理。通过 Evolution Transformer，结合进化算法蒸馏技术进行模型权重训练，我们得到一个在特定上下文中表现良好且能够很好泛化到其他具有挑战性的神经进化任务的模型。此外，我们还分析了 Evolution Transformer 的属性，并提出了一种全自引用训练的技术，从随机初始化开始并引导其自身的学习进程。我们提供了一个开源实现，网址为 https://<URL>

    Mar, 2024

  • LEA: 基于学习优化策略的进化算法之外

    设计一种可学习的进化算法（LEA）来实现从手工设计的优化策略到学习的优化策略的转变，能够高效地利用目标任务的低保真信息来形成优化策略，以更少的计算成本获得更好的解决方案。

    Apr, 2023

  • 自然进化策略作为随机变分推断的黑箱估计器

    基于鲁棒性自然演化策略的替代估计器用于克服变分自编码器框架中的设计选择限制，实现在大型数据集上高效执行贝叶斯推理并创建不同类型的模型。

    Aug, 2023

  • 演化策略作为可扩展替代强化学习的方案

    使用黑盒优化算法 —— 进化策略，替代流行的基于 MDP 的 RL 技术，通过 MuJoCo 和 Atari 上的实验表明，ES 是一种可行的解决策略，随着可用 CPU 数量的增加而呈线性规模，同时 ES 具有不变性、容差性以及无需强化学习概念的优越性。

    Mar, 2017

  • 群体学习优化

    本文提出了一种新的元优化器，该优化器能够在基于点和基于种群的优化算法算法空间中进行学习，提高了预测的准确性和优化能力，并在非凸测试函数和蛋白质对接应用中的实验结果表明，该元优化器优于现有竞争对手。

    Nov, 2019

  • 使用简单基于种群的进化进行任意阶元学习

    通过基于种群演化的方法实现了高阶元参数的优化，提出了自我引用的参数化形式，证明了高阶元学习可以提高时间序列预测任务的性能。

    Mar, 2023

  • MAME：模型无关元探索

    本论文提出了一种在元强化学习中有效实现探索策略的方法，即通过建立一个单独的探索策略，通过自监督和监督学习目标来实现适应，相较于现有的方法可以更加灵活和高效地训练策略，并在实验中表现出更卓越的性能。

    Nov, 2019

  • 使用进化策略和混合方法进行不可微监督学习

    该研究论文展示了演化策略在学习大型监督模型的非可微参数方面的优越性，尤其是当模型具有百万维参数时，该方法的竞争能力非常出色。这种方法允许瘦模型从第一步开始就可以训练，非常适合于大算力场景。

    Jun, 2019

  • 演化策略：在混合量子 - 经典神经网络中的应用

    本 paper 研究了在量子机器学习中一种名为 Evolution Strategies 的黑盒优化算法，其对 QNNs 进行训练是一种可行的替代方法，但同时也存在梯度消失的问题，其表现强烈依赖于超参数的选择。

    May, 2022