Feb, 2018

计划解释作为模型调和的实证研究

PDF
TL;DR本文通过在模拟搜救情景中测试算法，在考虑到自主系统行为的未解释性与人类理解之间的区别的情况下评估解释生成算法，研究人类与机器人间建立互信的过程以及这些算法特性被人类评价的程度。
explanation generationautonomous systemshuman-ai interactionhuman-robot interactiontrust dynamics
发现论文，激发创造
  • 无模型调和模型

    本文提出了一种简单易学的标注模型，以帮助解释者决定哪些信息有助于实现用户与代理之间的模型对接，从而将 “解释” 作为 “模型对接” 来完成。

    Mar, 2019

  • 在概率场景中生成整体和模型协调解释

    提出了一种新的生成概率性整体解释和模型协调解释的框架，该框架能够在不确定环境中生成可理解的决策解释。

    May, 2024

  • 关于模型调节：当机器人不知道人类的模型时如何调节？

    本文提出了一种基于对话的方法来计算模型协调问题的解决方案，该方法假定机器人不知道人类模型，机器人和人类共享计划域的谓词集，并且交流的内容是关于动作描述和流形值的交换。通过对话，机器人向人类发送潜在的解释，被称为提案，人类回复其提案的评估，被称为响应。

    Aug, 2022

  • AI 规划器决策的解释方法探讨

    为了建立对 AI 的信任，实现透明化且易懂的 AI 系统成为了重要问题，本文提出了一种通过 AI Planning 实现初步解释的方法，并实现在新的 XAI-Plan 框架中。

    Oct, 2018

  • 解释自己！解释在人机交互中的影响

    研究通过比较两个游戏机器人的表现来探究机器人决策解释对人类感知的影响，发现机器人提供解释并不能改变机器人的可信度、智能、好感度和安全性评级，但提供解释的机器人被认为更有生命力和人性化。这项研究表明，机器人决策解释具有提高人机交互及其各种效果的潜力，需要进行进一步评估。

    Apr, 2022

  • 评估强化学习场景中机器人行动的类人解释

    本文探讨了透明度逐渐成为自主智能系统的必要品质，提供了人性化的基于成功概率的解释方法，并通过用户调查证明该种解释对于非专业人士更易理解和接受。

    Jul, 2022

  • 基于文化的可解释人机冲突解决

    该研究提出了一种基于论证对话的人工智能体架构，将人类规则映射到可以解释行为的人工智能文化中，并通过用户研究验证了其有效性，结果表明当系统更加复杂时，解释可以显著提高人类绩效表现。

    Nov, 2019

  • 利用解释桥接人工智能和人类

    该研究论文提出了解释性机器学习方法来提高人类决策水平和人工智能协助决策效能之间的差距。

    Mar, 2020

  • 通过自动生成的解释理解机器人引导道德原则

    本文探讨了对比和非对比解释如何用于理解机器人行动计划的伦理原则。通过一个用户研究，我们发现生成的解释有助于人们理解机器人计划的伦理原则。

    Jun, 2022

  • 机器解释与人类理解

    本研究通过适应性因果图的方式，探讨了人机共存下机器学习模型解释与人类理解的相互作用。研究发现，提高人类针对模型决策边界的理解是可能的，但提高人类对任务决策边界或模型错误的理解需要结合人类主观性经验去实现。最后，本研究提出了一些可行的措施，以及未来机器学习模型解释研究的方向。

    Feb, 2022