Aug, 2023

QDax：一种质量多样性和基于群体的算法的硬件加速库

PDF
TL;DRQDax 是一个开源库，具有简化且模块化的 API，用于 Quality-Diversity (QD) 优化算法在 Jax 中。该库可用于各种优化目的，从黑盒优化到连续控制。QDax 提供了流行的 QD、神经进化和增强学习算法的实现，支持各种示例。所有这些实现都可以使用 Jax 进行即时编译，以便在多个加速器（包括 GPU 和 TPU）上进行高效执行。这些实现有效地展示了该框架的灵活性和用户友好性，为研究目的简化了实验。此外，该库有详细的文档，并通过测试覆盖率达到 95%。
qdaxopen-source libraryquality-diversity optimization algorithmsjaxblack-box optimization
发现论文，激发创造
  • 通过大规模并行加速质量多样性

    本文介绍了 QDax 算法，该算法通过使用大规模的加速器并行特性优化 Quality-Diversity (QD) 算法，使得 QD 算法可以在交互式时间尺度下扩展，能够大规模地加速解决方案生成过程，并通过对四种不同环境的测试分析表明，实验运行时间从天级别降低到分钟级别。

    Feb, 2022

  • 基于神经进化的强化学习质量多样性算法基准测试

    本文提出了一个深度神经进化强化学习机器人控制的质量多样性基准套件，包括任务，环境，行为描述符和适应性。基准使用标准的质量多样性指标，优势和档案概要指标来量化覆盖和适应度之间的关系，同时介绍了相对于环境随机性的解决方案的健壮性度量方式。我们相信本基准是一个有价值的工具，可以用于比较和改进研究结果。

    Nov, 2022

  • 评估优质多样性神经进化算法在难度较高的探索问题中的表现

    本篇研究提出了三个基准测试，旨在通过质量多样性方法的系统性评估来解决控制问题和探索难题。

    Nov, 2022

  • 动态感知的多样性优化：高效学习技能库

    通过使用动态模型来提高质量 - 多样性算法的样本效率，我们提出了动态感知质量 - 多样性 (DA-QD) 框架；我们从中获得的经验进行增量训练，可以在想象力中使用想象技能库进行质量 - 多样性探索。该方法能够在三个机器人实验中取得成功的应用，包括比现有 QD 方法更高效的技能发现、零 - shot 学习中的新技能库以及长期导航任务中的损伤适应。

    Sep, 2021

  • evosax: 基于 JAX 的进化策略

    通过 GPU 加速计算及发布基于 JAX 的 evosax 库支持的 30 种演化式算法及硬件优化，本文探究了深度学习和演化式优化间的结合，以进一步推动黑箱优化算法的发展。

    Dec, 2022

  • 通过多样质量种群实现高效的质量多样性优化

    本文提出了一种名为 Diverse Quality Species (DQS) 的新型质量 - 多样性算法，能够在不需要存档或事先定义行为范围的情况下，将解决方案分解为独立进化种类，并利用无监督技能发现来学习多样化而高性能的解决方案，在多个仿真机器人环境中进行评估，结果表明 DQS 比其他 QD 算法更具样本效率和性能。

    Apr, 2023

  • 有限资源下的优质多样性

    如何用有限资源高效训练品质多样性算法（QD algorithms），这篇论文提出了一种名为 RefQD 的新方法，通过将神经网络分解为表示部分和决策部分，并在存档中共享表示部分，以减少资源开销。RefQD 在各种资源消耗大小的任务上进行的实验表明了其出色的性能。

    Jun, 2024

  • 可微分的质量多样性

    提出了一种简化版的 Quality diversity 问题 - DQD，重点解决 Objective 和 Measure 函数是一阶可微分函数的问题，并提出了一种基于梯度信息的算法 MEGA, 成功地解决了优化过程中 “黑盒处理” 忽略 Gradient information 的问题。在两个 QD 基准领域和 StyleGAN 的潜在空间中进行实验，表明 MEGA 显著优于现有的 QD 算法，突出了 DQD 在梯度信息可用时高效的优势。

    Jun, 2021

  • 仅靠运气不行：在不确定领域增强品质多样化解决方案的行为可重复性

    本文提出了一种 Archive Reproducibility Improvement Algorithm（ARIA）的方法，基于自然进化策略，用于改善质量 - 多样性（Quality-Diversity）算法在噪声环境下的可重现性，并对其在优化问题和模拟机器人环境中进行了测试，得出其可以提高给定存档的质量和描述符空间覆盖率至少 50% 的结论。

    Apr, 2023

  • 质量和多样性优化：一个统一的模块化框架

    本文提出了一个全面的质量多样性优化算法统一框架，探讨了该算法族群的大量变体，并提出了一种新的集合管理机制解决了在使用无结构的集合时观察到的侵蚀问题，同时还提出了使用质量多样性优化算法的新的选择机制，其性能比本文测试的所有算法都要好，这三个贡献都得到了质量多样化算法在三个不同实验场景下的广泛实验比较的支持。

    May, 2017