May, 2024

可解释的人工智能与人类互动：一种规划视角

PDF
TL;DRAI 系统与人类的相互作用中，理解计算机中的心智模型和说明性交流对于实现合作场景和操纵人类期望至关重要。
ai systemshuman-ai interactionexplainable aimental modelsexplanatory communication
发现论文，激发创造
  • 可解释规划

    该论文探讨了人工智能的交互问题，提出了一种基于模型的 AI 规划方法，以实现人类与智能系统的有效沟通和协同解决问题的目标。

    Sep, 2017

  • 人机协作中的交互式计划可解释性

    本文考虑了人机团队合作的问题，并基于计划可解释性的概念，将其扩展到考虑交互设置。结果表明，我们的算法生成的计划的可解释度得分与人类计划相当，并且比不考虑该度量的 FF 计划更好，从而更好地满足人类期望，提高人机合作效率。

    Jan, 2019

  • AI 规划器决策的解释方法探讨

    为了建立对 AI 的信任，实现透明化且易懂的 AI 系统成为了重要问题，本文提出了一种通过 AI Planning 实现初步解释的方法，并实现在新的 XAI-Plan 框架中。

    Oct, 2018

  • 利用解释桥接人工智能和人类

    该研究论文提出了解释性机器学习方法来提高人类决策水平和人工智能协助决策效能之间的差距。

    Mar, 2020

  • 面向用户的人机交互可解释人工智能框架

    提出了一个以用户为中心的框架，旨在为非专业用户提供交互式可解释人工智能解决方案。

    Sep, 2021

  • 人感知 AI 系统的挑战

    讨论了设计人类感知人工智能系统面临的挑战，包括建模人类的心理状态、识别其愿望和意图、提供主动支持、展示可解释性行为、并引发信任等，并强调这种系统引出的伦理困境和推广真正跨学科合作的必要性。

    Oct, 2019

  • 学习和解释代理之间交互的智能协议

    本文探讨了人类与机器学习系统的交互，并提出了一个通信协议，使得机器学习决策支持系统能够实现人机两方面的可理解性。在该通信协议中，符合一定兼容性条件的智能体之间进行交互，定义了弱 / 强两种双向可理解性，使得人类和机器学习系统之间实现了智能信息的双向交流。

    Jan, 2023

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 人工智能中的解释性：来自社会科学的见解

    该论文提出，可从解释生成、选择、评估和呈现的人类认知偏见和社会期望中借鉴人类解释行为，以推进可解释的人工智能领域，并回顾了哲学、认知心理学、社会心理学等相关领域的研究成果。

    Jun, 2017

  • 可解释人工智能的基础交互协议

    本文探讨了可解释人工智能系统中的交互式解释问题，并提出了一种基于代理对话框架的交互协议模型，通过对 398 个解释对话的分析和人机交互实验的验证，证明该模型能够准确地模拟人机交互对话。

    Mar, 2019