Mar, 2022

强化学习中的可解释性：观点和立场

PDF
TL;DR本文系统地概述了现有的可解释强化学习方法，提出了一个新的统一分类方法，并建立了三个支柱来减少解释生成和接收方之间的差距并实现解释的诚实和真实性。
reinforcement learningexplainable aicredit assignment problemrisk attitudesepistemological constraints
发现论文，激发创造
  • 可解释强化学习：调查

    该论文对可解释强化学习方法进行了归类和评估，并发现大多数方法是通过模仿和简化复杂模型而非设计本质简单模型来实现目的的，缺乏人文思考和跨学科研究。因此需要进行一系列的跨学科努力才能将这些生成的解释改进为非专家用户易于理解的形式，以实现可解释人工智能的最终目标。

    May, 2020

  • 深度强化学习中的可解释性

    本文评估了直接将可解释性与强化学习相关联的研究，分为两类：透明算法和事后解释能力，并从解释如何潜在地启示最新的强化学习进展的角度回顾了最突出的 XAI 作品，以便在日益严峻和复杂的现实问题的未来部署中有所启示。

    Aug, 2020

  • 可解释性强化学习综述：概念、算法、挑战

    本篇综述论文将积极介绍深度强化学习与可解释机器学习的交叉，比较了先前的方法，提出了一种补充，阐明了深度学习对智能机器人控制任务的适用性，强调机器学习与人类知识相互融合提升学习效率和性能的意义，并评估了未来 XRL 研究面临的挑战和机遇。

    Nov, 2022

  • 评估强化学习场景中机器人行动的类人解释

    本文探讨了透明度逐渐成为自主智能系统的必要品质，提供了人性化的基于成功概率的解释方法，并通过用户调查证明该种解释对于非专业人士更易理解和接受。

    Jul, 2022

  • 深度强化学习中的可解释性：现有方法和应用评述

    本文综述了为解决深度强化学习模型缺乏可解释性问题而出现的可解释人工智能领域及其包括但不限于符号决策树和 Shapley 值等不同方法所适用的领域和模型。

    Jul, 2022

  • 通过反向强化学习实现可解释的深度强化学习模型

    本研究提出了一种新的框架，利用对抗性逆强化学习，可以为强化学习模型做出的决策提供全局解释，并通过总结模型的决策过程来捕捉直观的倾向。

    Mar, 2022

  • 通过模型转换的可解释强化学习

    通过使用形式化的马尔科夫决策过程抽象和转换，以自动产生解释的方式，解释强化学习智能体的新兴行为。

    Sep, 2022

  • 强化学习的经验性解释

    通过 Experiential Explanations 生成局部反事实解释来帮助解释强化学习代理的决策，利用影响预测模型来恢复失去的关于策略如何反映环境的情境信息，并在人类评估研究中实现了更高的正确预测率和更高的解释实用性。

    Oct, 2022

  • 基于预期后果的强化学习对比解释

    本文提出了一种方法，使强化学习代理能够解释其行为，以期实现机器学习模型的透明化。通过将状态和行动转换为易于人类理解的描述，并使用一种可生成解释的格式，进行了计算，结果表明人类用户倾向于关注政策而非单个操作。

    Jul, 2018

  • 基于状态转移模型的基于特征的可解释强化学习

    提出了一种基于状态转移模型的强化学习局部可解释风险的方法，并通过实验证明了其有效性。

    May, 2021