Dec, 2017

深度神经进化：遗传算法是训练深度神经网络进行强化学习的竞争性替代方案

PDF
TL;DR我们证明了遗传算法可以在深度人工神经网络上实现良好的性能表现，即使没有梯度信息支持，我们使用深度遗传算法结合新颖搜索技巧在具有挑战性的深度强化学习问题上获得了成功，并且速度比其他算法更快，能够实现高效编码。
发现论文，激发创造
  • 控制任务中的循环架构的神经进化

    该研究提出了一种新方法，即利用少量的突变规则来动态演化循环神经网络的结构，其结果表明，这种方法可以在大多数情况下匹配或超过梯度下降方法的性能，同时使用数量级更少的参数，该方法有望在对网络紧凑性和自主设计至关重要的实际应用方面开辟新的途径。

    Apr, 2023

  • 演化引导的强化学习策略梯度

    本文介绍了一种基于人工进化算法和深度强化学习相结合的进化增强学习算法，该算法克服了传统深度强化学习算法中时序资格分配、探索效率和收敛性极度敏感的问题，使用基于种群的进化算法来训练深度强化学习代理人，实验结果表明，该方法在多种连续控制基准测试中显著优于传统深度强化学习和进化算法方法。

    May, 2018

  • 深度進化神經反饋與離散世界模型

    通过遗传算法，同一物体的不同部分可以被联合训练，得到与分开训练相媲美的性能，该研究进一步证明了深度神经进化在复杂异构体系结构下的有效性。

    Apr, 2019

  • 近端蒸馏进化强化学习

    本文提出一种新的算法 Proximal Distilled Evolutionary Reinforcement Learning (PDERL)，通过对深度神经网络进行基于学习的变异操作，弥补了简单遗传编码的缺陷，优于 Evolutionary Reinforcement Learning (ERL) 和两种现有的强化学习算法。

    Jun, 2019

  • 深度神经网络优化的进化随机梯度下降

    该研究提出了一种基于人口的进化随机梯度下降（ESGD）框架来优化深度神经网络，该框架将 SGD 和基于梯度的进化算法作为互补算法，以提高种群的平均适应度。

    Oct, 2018

  • 神经进化是技能发现中替代强化学习的竞争性方法

    通过在 8 种最先进的方法上进行广泛的实证评估，本文证明了 Quality Diversity (QD) 方法是技能发现的一种有竞争力的替代方案，既可以提供相同甚至更好的性能，而且对超参数更不敏感且可扩展性更高。

    Oct, 2022

  • 演化深度卷积神经网络用于图像分类

    本文提出了一种利用遗传算法优化深度卷积神经网络结构和连接权重初始化的图像分类算法，该算法利用一个高效的可变长度基因编码策略和新的表示方案初始化深度卷积神经网络的连接权重，并提出了一种新的适应度评估方法，实现了在少量计算资源下的快速启发式搜索，与其他 22 个现有算法相比在九个广泛应用于图像分类的任务中表现明显优越。

    Oct, 2017

  • 对抗生成神经进化控制行为模仿

    本研究探索深度神经进化算法是否可用于行为模仿，通过引入一个简单的对抗生成框架，将深度递归网络进化到可以在 8 个 OpenAI Gym 状态控制任务上模仿最先进的预训练代理的能力。实验结果表明，神经进化在生成行为模拟代理方面具有很大的潜力，可以使其在准确度和泛化性方面更具可操作性。

    Apr, 2023

  • NeuroLGP-SM: 深度神经网络的可扩展替代辅助神经进化

    在神经进化（neuroevolution）中，我们提出了一种名为 NeuroLGP-SM 的方法，它利用表型距离向量和 Kriging Partial Least Squares（KPLS）作为代理模型，以高效准确地评估大型深度神经网络（DNNs）的适应度，并且相比其他方法具有竞争力或更好的结果和更高的能源效率。

    Apr, 2024

  • 深度学习生成神经进化

    本篇论文探讨神经进化在深度学习中的作用，其中 HyperNeat 通过训练一种间接编码来实现学习大型神经结构，并且结合其他机器学习方法可以有效提取特征。

    Dec, 2013