在带有上限的隐式探索下,插值softmax策略梯度和神经复制动力学
该研究提出一种非参数函数逼近器和基于状态抽象和信息获取的不确定性探索策略来处理高维环境下的强化学习挑战,并在Minecraft游戏中进行了验证,结果表明这两种技术结合起来在标准强化学习任务中表现出色并在高维观察空间的任务中优于基准算法,这为强化学习技术在真实世界中的应用提供了一个有力的方法。
Mar, 2016
证明了当观察到的上下文具有足够的随机性时,贪心算法可以达到速率最优,并介绍了一种新的算法 Greedy-First,该算法仅使用观察到的上下文和奖励来确定是否按照贪心策略或探索策略,同时证明该算法在没有对上下文分布或手臂数量做任何其他假设的情况下具有速率最优的性质,并大量模拟结果表明,Greedy-First成功地减少了探索并优于现有的基于Exploration的上下文bandit算法,如Thompson sampling或upper confidence bound(UCB)。
Apr, 2017
本文结合高效的进化策略算法(ES)、直接探索策略和进化智能技术,提出了一种新型快速可扩展的在深度强化学习任务中进行探索的算法,通过在Atari游戏和机器人学习领域的实验验证,提高了ES在稀疏或陷阱型的深度RL任务中的表现。
Dec, 2017
我们展示了一种称为"Fast and Furious"的学习方法,使得在二人零和博弈中时间平均遗憾减少且步长不为零成为可能,此学习方法为最小化-最大化优化和多智能体系统中的研究提供了新的标杆,即使是在最简单的情况下,我们的研究证明该方法的遗憾界限为$\Theta(\sqrt{T})$,在学习率固定的情况下也会稳定收敛于确切的纳什均衡价值。
May, 2019
通过使用正则化流,将软actor-critic(SAC)方法扩展到更丰富的概率分布类别,能够显着提高策略的探索性能,同时使用更小的策略表示,增加了参数效率。
May, 2019
本论文研究了使用KL散度来进行策略更新的近似策略迭代算法中,正反向KL散度的差异及其对策略改进的影响,进一步探讨熵正则化以及使用前向和后向KL散度不同选择的策略改进保证,同时提出许多策略梯度方法可作为近似策略迭代算法的实例,为进一步理解和改进我们的策略优化算法提供思路。
Jul, 2021
本研究提出了在政策优化中添加膨胀奖励以促进全局探索的解决方案,用于改进和推广了(在具有对抗性损失和赌徒反馈的情况下)几个历史上最先进的MDP设定,并得到了更优秀的结果,其中包括调整了先前已知的结果。
Jul, 2021
本文针对连续动作空间下的强化学习问题,提出一种基于重尾分布参数化的策略梯度算法,并对该算法进行了理论和实验研究,表明该算法相比于标准基准在多种场景下都能得到改进的奖励累积结果。
Jan, 2022
本论文提出一种基于条件互信息的探索奖励方法(DEIR),实现了从代理探索中产生的新颖性的累积学习。在ProcGen数据集的实验中表现出快速学习和良好的泛化性能。
Apr, 2023
基于双Q函数框架,引入一种新的探索策略来解决连续动作空间中政策梯度法探索的问题,通过使用贪婪Q值和保守Q值的加权和来更新Q值,将行动探索与Q值更新相结合,并在Mujoco基准测试中展示了优越的性能。
Aug, 2023