Sep, 2021

动态感知的多样性优化：高效学习技能库

PDF
TL;DR通过使用动态模型来提高质量 - 多样性算法的样本效率，我们提出了动态感知质量 - 多样性 (DA-QD) 框架；我们从中获得的经验进行增量训练，可以在想象力中使用想象技能库进行质量 - 多样性探索。该方法能够在三个机器人实验中取得成功的应用，包括比现有 QD 方法更高效的技能发现、零 - shot 学习中的新技能库以及长期导航任务中的损伤适应。
quality-diversity algorithmsdynamics-aware quality-diversitysample efficiencyskill repertoiresdeep dynamics model
发现论文，激发创造
  • 通过动态感知和无重置学习在物理机器人上实现质量多样性优化

    通过 Reset-Free QD 算法和动力学模型，在物理机器人上直接学习控制器，以提高样本效率和生成最佳存档，从而使物理四足机器人在两小时内学习到行为技能库。

    Apr, 2023

  • 通过无重置多样性优化实现自主步行学习

    本研究提出了 Reset-Free Quality-Diversity optimization (RF-QD) 算法来实现具有多样性和高性能技能的行为副本的自主学习，我们在 Dynamics-Aware Quality-Diversity (DA-QD) 基础上引入了一种行为选择策略，并演示了通过训练自我重置的步态行走任务，可以高效学习到具有多样性和一定安全性的行走技能。

    Apr, 2022

  • 具有分层品质多样性的物理机器人在线损伤恢复

    使用 Hierarchical Trial and Error 算法，将 QD 算法分层结构化以增加机器人学习技能的多样性，并使机器人能够更快地适应物理世界，实验表明，该方法优于现有基准算法，可提高机器人迎接新挑战的能力。

    Oct, 2022

  • 有限资源下的优质多样性

    如何用有限资源高效训练品质多样性算法（QD algorithms），这篇论文提出了一种名为 RefQD 的新方法，通过将神经网络分解为表示部分和决策部分，并在存档中共享表示部分，以减少资源开销。RefQD 在各种资源消耗大小的任务上进行的实验表明了其出色的性能。

    Jun, 2024

  • 稀疏奖励和稀疏互动下的质量多样性：机器人抓取的应用

    通过评估框架，该研究工作在 10 个不同抓取领域进行了 15 种方法的实验，结果显示优先选择成功解决方案的 MAP-Elites 变体在所研究的指标上大大优于其他方法，并发现稀疏交互可能导致迷惑性的新颖性，此工作在文献中具有创新性地有效产生了抓取轨迹示例，这方面没有先例。

    Aug, 2023

  • 基于质量多样性与无监督描述符的自主技能发现

    本文提出一种将 Quality-Diversity 优化算法与非监督降维算法相结合来自动定义行为描述符的方法，此方法可用于机器人学习行为库并在与环境交互时自主发现其能力范围，通过实验结果表明，该方法优于已有的非监督方法，机器人学习到的行为丰富多样。

    May, 2019

  • 使用质量多样性加速 6 自由度抓取采样

    近期 AI 在机器人学习方面的重要进展，特别是自然语言条件规划和使用生成模型进行控制器高效优化。然而，互动数据仍然是泛化的瓶颈。获取抓取的数据是一个关键挑战，因为这项技能需要完成许多操作任务。质量多样性算法结合先验知识来加速生成多样的模拟抓取姿势，实验结果显示质量多样性算法明显优于常用方法。进一步实验表明，质量多样性优化自动发现了一些通常需要硬编码的高效先验知识。在两种不同类型的机械手上部署生成的抓取结果表明，所产生的多样性场景具有模拟到实际的可迁移性。我们相信这些结果对于生成大规模数据集以实现强健且普适的机器人抓取策略是重要的一步。

    Mar, 2024

  • 动态品质多样性搜索

    该论文介绍了一种新颖且通用的动态质量多样性 (Dynamic QD) 方法，旨在在环境发生变化的情况下更新过去解决方案的存档，并将其应用于进化搜索的动态环境。

    Apr, 2024

  • 使用基于模型的品质多样性和梯度的高效探索

    本文介绍了一种基于模型的 Quality-Diversity 算法，该算法通过对所有群体成员进行有效的探索和利用想象中的扰动来同时维持性能和高效的多样性，从而提高人群算法在具有欺骗性奖励的任务中的样本效率和解决方案质量。

    Nov, 2022

  • 基于相关性引导的无监督质量多样性算法能力发现

    提出了一种基于 Relevance-guided Unsupervised Discovery of Abilities 的 Quality-Diversity 算法，可以自动发现适用于任务的行为描述符，并在模拟机器人环境中验证了算法的有效性。

    Apr, 2022