Nov, 2021

基于后继特征标志的长视程目标导向强化学习

PDF
TL;DR本文介绍 Successor Feature Landmarks（SFL），它是用于大型、高维空间的探索的一个框架，该框架利用继承特征（SF）的能力来驱动探索，估计状态新颖性，并通过将状态空间抽象为基于非参数地标的图表，启用高级别规划，实现了 GCRL 任务上的超越表现。
发现论文，激发创造
  • 基于路标引导的分层强化学习子目标生成

    本文介绍了 HIerarchical reinforcement learning Guided by Landmarks (HIGL) 框架，该框架通过引导探索性的 Landmarks 来训练具有减少动作空间的高层级策略，实现高效探索。实验结果表明，该框架在控制任务中表现优异。

    Oct, 2021

  • 基于地标的主动探索与稳定底层策略学习

    本文介绍了一种基于目标状态和价值函数的探索策略，可以有效解决高层次策略的行动空间过大和低级别策略的动态变化导致高层次政策的不稳定性问题。

    Jun, 2023

  • 使用后继特征和泛化策略改进的深度强化学习转移

    本文通过扩展 successor features (SFs) 和 generalised policy improvement (GPI) 框架的基本假设，实现从一组任务到另一组任务的优雅而健壮的技能迁移方法，并在一个复杂的三维环境下进行了实证验证。

    Jan, 2019

  • 基于乐观的线性支持和继承特征的最优策略转移

    介绍了一种基于 SF 的新算法，它允许 RL 代理结合现有策略，并在任意新问题上直接识别出最优策略，无需进一步与环境进行交互。该算法可通过广义策略改进将策略组合形成最优行为，且性能优于现有竞争算法。

    Jun, 2022

  • 继承特征将模型无关和基于模型的强化学习元素相结合

    本文分析了不同潜在状态空间的属性，发现了模型学习与模型自由强化学习之间的新联系，并表明对未来奖励结果预测有用的表征可在转换和奖励变化条件下进行推广，从而进一步实现模型学习和继承特征之间的联系。

    Jan, 2019

  • 利用地标映射状态空间实现通用目标达成

    本文提出了一种在具有稀疏奖励下的大型 MDPs 中处理 long-range goals 的方法，该方法通过分层建模、farthest point sampling 和 RL 算法的结合来解决这个问题。实验结果表明，该方法比标准的 RL 算法更能有效地达成目标。

    Aug, 2019

  • 使用后继特征进行多任务转移的任务重新标记

    本文研究了如何通过预训练 Successor Features 以提高 Deep Reinforcement Learning 的性能，并提出了一种任务重标记的方法以实现迁移学习。

    May, 2022

  • 利用预训练技能来拓展目标勘探，用于稀疏奖励长时间尺度的目标条件加强学习

    本文提出了一种新的学习目标，通过优化已实现和未来需要探索的目标的熵，以更高效地探索子目标选择基于 GCRL，该方法可以显著提高现有技术的探索效率并改善或保持它们的表现。

    Oct, 2022

  • 强化学习中的后继特征迁移

    我们提出了一种基于 successor features 和 generalized policy improvement 的转移框架，用于处理奖励函数在不同任务之间变化的情况，并且可以在不同任务之间自由地交换信息，同时具有转移策略的性能保证。在导航任务和控制模拟机械臂中，该方法成功地促进了优化的转移，明显优于其他方法.

    Jun, 2016

  • 将世界模型视为图：学习用于规划的潜在地标

    该论文提出 L3P 算法，使用稀疏的多步转换学习基于图结构的世界模型并生成 Q - 函数，其在高维连续控制任务上具有优越的性能，是深度强化学习中可扩展规划的重要进展。

    Nov, 2020