Jan, 2019

人机协作中的交互式计划可解释性

PDF
TL;DR本文考虑了人机团队合作的问题，并基于计划可解释性的概念，将其扩展到考虑交互设置。结果表明，我们的算法生成的计划的可解释度得分与人类计划相当，并且比不考虑该度量的 FF 计划更好，从而更好地满足人类期望，提高人机合作效率。
human-robot teamingartificial intelligenceteammate modelsplan explicabilityinteractive settings
发现论文，激发创造
  • 机器人任务规划的可解释性和可预测性

    针对智能机器人的高水平任务计划存在的问题，提出了 “计划可解释性” 和 “可预测性” 的概念，通过条件随机场模型学习标签方案并对新计划进行标签，用以提高机器人计划的可解释性和可预测性，该方法经过了人机交互和实际机器人测试并取得了较好的性能。

    Nov, 2015

  • 可解释的人工智能与人类互动：一种规划视角

    AI 系统与人类的相互作用中，理解计算机中的心智模型和说明性交流对于实现合作场景和操纵人类期望至关重要。

    May, 2024

  • 可解释规划

    该论文探讨了人工智能的交互问题，提出了一种基于模型的 AI 规划方法，以实现人类与智能系统的有效沟通和协同解决问题的目标。

    Sep, 2017

  • 解释自己！解释在人机交互中的影响

    研究通过比较两个游戏机器人的表现来探究机器人决策解释对人类感知的影响，发现机器人提供解释并不能改变机器人的可信度、智能、好感度和安全性评级，但提供解释的机器人被认为更有生命力和人性化。这项研究表明，机器人决策解释具有提高人机交互及其各种效果的潜力，需要进行进一步评估。

    Apr, 2022

  • 复杂人机协作任务中的解释生成联合心智建模

    人与机器协作中，提出了一种基于可解释人工智能（XAI）框架的思维感知沟通技术，借助贝叶斯推理算法，机器建立了人类用户的层次化精神模型，并生成自身思维的解释，实验证明该方法显著提高了协作表现和机器被用户感知的程度。

    Jul, 2020

  • 评估强化学习场景中机器人行动的类人解释

    本文探讨了透明度逐渐成为自主智能系统的必要品质，提供了人性化的基于成功概率的解释方法，并通过用户调查证明该种解释对于非专业人士更易理解和接受。

    Jul, 2022

  • 安全可解释机器人规划

    本文介绍了一种扩展的可解释规划方法，在考虑人 - 机器人交互的情况下，支持定义安全边界。该方法旨在生成能够满足安全约束条件并且接近人类期望的行为策略，是一种多目标优化问题。同时，研究者提供了理论证明和实验验证，证明了该算法的优越性和适用性。

    Apr, 2023

  • 基于明确人类心态推理的鲁棒人机协同任务规划

    该研究基于情境评估，提出了一种新颖的解决方案，可以在人机团队合作中帮助机器人预测和模拟人类决策，并通过沟通协调达到信念一致，提高问题解决效率和鲁棒性。

    Oct, 2022

  • AI 规划器决策的解释方法探讨

    为了建立对 AI 的信任，实现透明化且易懂的 AI 系统成为了重要问题，本文提出了一种通过 AI Planning 实现初步解释的方法，并实现在新的 XAI-Plan 框架中。

    Oct, 2018

  • 计划解释作为模型调和的实证研究

    本文通过在模拟搜救情景中测试算法，在考虑到自主系统行为的未解释性与人类理解之间的区别的情况下评估解释生成算法，研究人类与机器人间建立互信的过程以及这些算法特性被人类评价的程度。

    Feb, 2018