Oct, 2018

交互式强化学习智能体自主行为解释

PDF
TL;DR本文提出了一种基于指令的行为解释（IBE）方法，它可以帮助人类理解机器学习机器人的行为，促进人机协作。IBE 允许代理自主获取表达来解释自己的行为，并通过重复使用人类专家给出的指令来加速代理政策的学习。IBE 还允许一个发展中的代理向人类解释其行为，以便在合作期间更好地进行沟通。
human robot cooperationmachine learningautonomous agentbehavior explanationpolicy
发现论文，激发创造
  • 评估强化学习场景中机器人行动的类人解释

    本文探讨了透明度逐渐成为自主智能系统的必要品质，提供了人性化的基于成功概率的解释方法，并通过用户调查证明该种解释对于非专业人士更易理解和接受。

    Jul, 2022

  • 用大型语言模型解释代理行为

    智能代理通过观察状态和行为生成自然语言解释，以理解其行为，从而促进与用户的互动。

    Sep, 2023

  • 理解代理程序：利用大型语言模型进行行为解释

    基于状态和行为观察生成自然语言解释，不依赖于基础模型的表示，能解释智能代理行为，使用户能够与预训练的大型语言模型进行交互并生成有助于解释与推理的解释。

    Nov, 2023

  • 基于反思的可解释强化学习在情节和非情节场景中的应用

    通过自省和强化学习代理结合来提高机器人任务的可信度和可解释性。实验表明，在情节性和非情节性机器人任务中，自省方法都是可行的，可以生成对机器人行动的解释。

    Nov, 2022

  • 可解释的目标导向智能体和机器人 —— 综合评述

    该文章重点讨论解释目标驱动型智能代理人和机器人的方法，强调透明度、可理解性和持续学习的策略。它提出了可行的目标驱动可解释代理人和机器人的实现路径和要求。

    Apr, 2020

  • 基于观测学习的因果机器人通讯

    介绍了如何应用心理学的学习行为洞见为机器人意图交流提供洞见，并通过从一个动作序列中选择性地解释因果动作的方式，使机器人更有效地传达其目的。

    Mar, 2022

  • 强化学习的经验性解释

    通过 Experiential Explanations 生成局部反事实解释来帮助解释强化学习代理的决策，利用影响预测模型来恢复失去的关于策略如何反映环境的情境信息，并在人类评估研究中实现了更高的正确预测率和更高的解释实用性。

    Oct, 2022

  • 面向人工智能协同的语言指导强化学习

    在缺乏高质量人类行为数据的情况下，使用预训练的大型语言模型生成人类语言指令的先验策略并规范化强化学习目标可以帮助人工智能代理与人类协作，并在多智能体强化学习问题中实现人工智能代理与人类偏好一致的均衡解。案例中验证了该框架的有效性。

    Apr, 2023

  • 使机器人能够交流它们的目标

    通过机器模拟对人类推导目标功能的学习过程，选择对人最具信息量的行为，以准确预测机器人在新情境下的行为，为此我们提出了两种候选的近似推断模型，并在自动驾驶领域中进行用户研究，结果表明，某些近似推断模型可以使机器人生成更好的行为示例，从而更好地使用户预测其行为，但我们还需要进一步研究人类从机器人行为示例中的推导过程。

    Feb, 2017

  • 可解释化多智能体强化学习的概念学习

    本文介绍了一种将领域专家的可解释概念纳入到多智能体强化学习模型中的方法，以提高模型的解释性和稳定性，提高性能和样本效率。

    Feb, 2023