面向服务系统的深度强化学习决策解释 AI 聊天机器人

Sep, 2023

面向服务系统的深度强化学习决策解释 AI 聊天机器人

An AI Chatbot for Explaining Deep Reinforcement Learning Decisions of Service-oriented Systems

Andreas Metzger, Jone Bartel, Jan Laufer

TL;DR通过提供自然语言解释，Chat4XAI 帮助理解 Deep RL 的决策过程，并提供了更好的易懂性、用户接受度和信任度，以及更高效的解释。

Abstract

deep reinforcement learning (Deep RL) is increasingly used to cope with the open-world assumption in service-oriented systems. Deep RL was successfully applied to problems such as dynamic service composition, job

deep reinforcement learning chat4xai decision-making natural-language explanations service-oriented systems

发现论文，激发创造

深度强化学习中的可解释性

本文评估了直接将可解释性与强化学习相关联的研究，分为两类：透明算法和事后解释能力，并从解释如何潜在地启示最新的强化学习进展的角度回顾了最突出的 XAI 作品，以便在日益严峻和复杂的现实问题的未来部署中有所启示。

Aug, 2020

自适应系统在线强化学习决策解释

提出了一种结合两种可解释强化学习技术的方法，名为 XRL-DINE，可用于解释具有设计时间不确定性的自适应系统中的 Deep RL 决策。

Oct, 2022

一项关于自适应系统可解释的在线强化学习的用户研究

在线强化学习和深度强化学习在自适应系统和可解释性 RL 技术方面的实际应用以及用户研究。

Jul, 2023

可解释性强化学习综述：概念、算法、挑战

本篇综述论文将积极介绍深度强化学习与可解释机器学习的交叉，比较了先前的方法，提出了一种补充，阐明了深度学习对智能机器人控制任务的适用性，强调机器学习与人类知识相互融合提升学习效率和性能的意义，并评估了未来 XRL 研究面临的挑战和机遇。

Nov, 2022

深度强化学习中的可解释性：现有方法和应用评述

本文综述了为解决深度强化学习模型缺乏可解释性问题而出现的可解释人工智能领域及其包括但不限于符号决策树和 Shapley 值等不同方法所适用的领域和模型。

Jul, 2022

可解释强化学习：调查

该论文对可解释强化学习方法进行了归类和评估，并发现大多数方法是通过模仿和简化复杂模型而非设计本质简单模型来实现目的的，缺乏人文思考和跨学科研究。因此需要进行一系列的跨学科努力才能将这些生成的解释改进为非专家用户易于理解的形式，以实现可解释人工智能的最终目标。

May, 2020

理解代理程序：利用大型语言模型进行行为解释

基于状态和行为观察生成自然语言解释，不依赖于基础模型的表示，能解释智能代理行为，使用户能够与预训练的大型语言模型进行交互并生成有助于解释与推理的解释。

Nov, 2023

自然对话中的机器学习模型解释：走向会话型可解释人工智能代理

本文介绍了如何将可解释人工智能（XAI）应用于对话代理中，通过使用自然语言理解和生成组件来理解用户的信息需求并提供相应的解释。作者通过综合调查文献，提出了一份全面的可解释人工智能问题列表及相应的解释方法。

Sep, 2022

通过反向强化学习实现可解释的深度强化学习模型

本研究提出了一种新的框架，利用对抗性逆强化学习，可以为强化学习模型做出的决策提供全局解释，并通过总结模型的决策过程来捕捉直观的倾向。

Mar, 2022

用大型语言模型解释代理行为

智能代理通过观察状态和行为生成自然语言解释，以理解其行为，从而促进与用户的互动。

Sep, 2023