Nov, 2022

基于反思的可解释强化学习在情节和非情节场景中的应用

PDF
TL;DR通过自省和强化学习代理结合来提高机器人任务的可信度和可解释性。实验表明，在情节性和非情节性机器人任务中，自省方法都是可行的，可以生成对机器人行动的解释。
roboticsintrospectionreinforcement learningexplanationstrust
发现论文，激发创造
  • 内省学习

    本文介绍了一种基于 Introspection Learning 的反向传播算法，使用该算法可直接向神经网络提问，无需通过与环境的交互，该算法不依赖强化学习算法，其返回的状态可用于检测策略的健康状况或塑造策略以满足安全约束的多种方式，证明了该算法在加速训练和提高安全性方面的有效性。

    Feb, 2019

  • 评估强化学习场景中机器人行动的类人解释

    本文探讨了透明度逐渐成为自主智能系统的必要品质，提供了人性化的基于成功概率的解释方法，并通过用户调查证明该种解释对于非专业人士更易理解和接受。

    Jul, 2022

  • 强化学习的经验性解释

    通过 Experiential Explanations 生成局部反事实解释来帮助解释强化学习代理的决策，利用影响预测模型来恢复失去的关于策略如何反映环境的情境信息，并在人类评估研究中实现了更高的正确预测率和更高的解释实用性。

    Oct, 2022

  • 在分层强化学习场景中解释代理的决策制定

    本文提出利用基于记忆的可解释强化学习方法解决分层任务的复杂性，并计算成功概率用于解释代理的行为。结果表明，在高层任务中使用记忆算法可以计算出代理的成功概率并用作指导其行为的基础。

    Dec, 2022

  • 使用情节记忆从深度强化学习生成解释

    通过使用含有情节记忆系统的深度强化学习代理，识别和重述关键决策，生成人类可读的简短解释，可用于加快初学的无算法依赖深度强化学习代理的学习。

    May, 2022

  • 强化学习中的可解释性：观点和立场

    本文系统地概述了现有的可解释强化学习方法，提出了一个新的统一分类方法，并建立了三个支柱来减少解释生成和接收方之间的差距并实现解释的诚实和真实性。

    Mar, 2022

  • 嵌入式自我预测对强化学习的对比解释

    本文提出了一种支持解释强化学习代理为何倾向于执行一种行动而非另一种行动的深度强化学习架构，并应用于三个领域的案例研究中，证明了嵌入式自我预测模型可以有效学习并支持有见解的解释。

    Oct, 2020

  • 交互式强化学习智能体自主行为解释

    本文提出了一种基于指令的行为解释（IBE）方法，它可以帮助人类理解机器学习机器人的行为，促进人机协作。IBE 允许代理自主获取表达来解释自己的行为，并通过重复使用人类专家给出的指令来加速代理政策的学习。IBE 还允许一个发展中的代理向人类解释其行为，以便在合作期间更好地进行沟通。

    Oct, 2018

  • 推理反事实以改善人类逆强化学习

    为了让人类能够很好地与机器人协作，提出了一种包含逆强化学习和演示方法，在选择展示时考虑了人类对机器人决策的预期，使用了一种新的测试难度测量方法，并发现这种方法在易于测试的情况下降低了人类的性能，但在难于测试的情况下增加了性能。

    Mar, 2022

  • 可解释性强化学习综述：概念、算法、挑战

    本篇综述论文将积极介绍深度强化学习与可解释机器学习的交叉，比较了先前的方法，提出了一种补充，阐明了深度学习对智能机器人控制任务的适用性，强调机器学习与人类知识相互融合提升学习效率和性能的意义，并评估了未来 XRL 研究面临的挑战和机遇。

    Nov, 2022