Jan, 2023

ASQ-IT：基于交互式解释的强化学习智能体

PDF
TL;DR本文介绍了一个交互式工具 ASQ-IT，它基于 formal methods 和 automata theory，能够让用户通过查询描述感兴趣的行为的时间属性来观察代理在其环境中的行为，并帮助用户识别错误的代理行为。用户研究表明，使用 ASQ-IT 能够帮助用户理解和制定查询。
reinforcement learningexplainable methodsinteractive toollinear temporal logicuser studies
发现论文，激发创造
  • 可解释强化学习：调查

    该论文对可解释强化学习方法进行了归类和评估，并发现大多数方法是通过模仿和简化复杂模型而非设计本质简单模型来实现目的的，缺乏人文思考和跨学科研究。因此需要进行一系列的跨学科努力才能将这些生成的解释改进为非专家用户易于理解的形式，以实现可解释人工智能的最终目标。

    May, 2020

  • 可解释多智能体强化学习应用于时间查询

    该研究提出了一种基于 PCTL 逻辑公式和概率模型检验的方法，用于为多智能体强化学习系统（MARL）生成策略级对比解释以回答时间用户查询，以帮助用户理解复杂环境中 MARL 代理的新兴行为，并能够解释为何用户查询不可行。实验表明，该方法有效提高了用户的性能与满意度。

    May, 2023

  • 利用解释性技术实现强化学习模型的保证

    通过使用 ARLIN 工具包，本文介绍了一种基于可解释强化学习（XRL）的方法，通过提供人类可解释的输出，帮助识别培训过的深度强化学习（DRL）模型中的潜在漏洞和关键问题，以增加用户在实际应用中的信任和采用。

    Nov, 2023

  • 深度强化学习中的可解释性

    本文评估了直接将可解释性与强化学习相关联的研究，分为两类：透明算法和事后解释能力，并从解释如何潜在地启示最新的强化学习进展的角度回顾了最突出的 XAI 作品，以便在日益严峻和复杂的现实问题的未来部署中有所启示。

    Aug, 2020

  • 可解释性强化学习综述：概念、算法、挑战

    本篇综述论文将积极介绍深度强化学习与可解释机器学习的交叉，比较了先前的方法，提出了一种补充，阐明了深度学习对智能机器人控制任务的适用性，强调机器学习与人类知识相互融合提升学习效率和性能的意义，并评估了未来 XRL 研究面临的挑战和机遇。

    Nov, 2022

  • 一项关于自适应系统可解释的在线强化学习的用户研究

    在线强化学习和深度强化学习在自适应系统和可解释性 RL 技术方面的实际应用以及用户研究。

    Jul, 2023

  • XRL-Bench：评估和对比可解释强化学习技术的基准

    通过介绍 Explainable RL 领域中的 state-explaining techniques 及 XRL-Bench 和 TabularSHAP 方法，本研究为解释性 RL 技术的发展提供了实用工具和评估框架。

    Feb, 2024

  • 强化学习中的可解释性：观点和立场

    本文系统地概述了现有的可解释强化学习方法，提出了一个新的统一分类方法，并建立了三个支柱来减少解释生成和接收方之间的差距并实现解释的诚实和真实性。

    Mar, 2022

  • 分析一个主动问答机器人所学习到的语言

    该文章分析了一个被训练使用强化学习的代理程序学到的语言，作为 ActiveQA 系统的组成部分。在这个系统中，问题回答被框架化为一项强化学习任务，代理学习重构用户问题以引出最佳答案。研究发现，代理程序并没有学习与语义相关的转换，而是通过学习传统的信息检索技术（如 tf-idf 重新加权和词干化）来适应回答系统的语言。

    Jan, 2018

  • 可解释性强化学习的趣味性元素：理解智能体的能力和限制

    本文提出一个可解释的强化学习框架，通过分析代理与环境的交互历史来提取有助于解释其行为的有趣元素，从而创造可视化的摘要，评估用户的感知能力，结果表明，不同有趣元素捕捉到的方面的多样性对于帮助人类正确理解代理在执行任务中的优势和限制是至关重要的。

    Dec, 2019