Sep, 2020

基于论证的方法解释智能体中的目标选择

PDF
TL;DR本文提出了一种基于论证的方法，用于为可解释的人工智能系统生成关于其行动选择过程的解释，并附加有关冲突解决的信息；我们还应用该方法于清洁工作场景。
explainable artificial intelligenceintelligent agentsargumentation-based approachgoals selectionconflict resolution
发现论文，激发创造
  • 可解释的目标导向智能体和机器人 —— 综合评述

    该文章重点讨论解释目标驱动型智能代理人和机器人的方法，强调透明度、可理解性和持续学习的策略。它提出了可行的目标驱动可解释代理人和机器人的实现路径和要求。

    Apr, 2020

  • 解释器之争：上下文适宜解释的论证

    理解何时以及为何应用特定的可解释人工智能技术并非易事。本文旨在解决在需要解释时选择最合适的解释器这一挑战。为了使人工智能的可解释性能产生效果，解释以及如何呈现解释需要针对接受解释的利益相关者进行定向。如果一般情况下不存在一种单一的解释技术超过其他技术，那么就需要进行现有方法的推理以选择最适合上下文的解释器。基于其提供的透明度，我们建议采用论证技术来在一组可行解释器中达成一致并选择最合适的解释器。本文中，我们提出了一个模块化推理系统，包括与相关利益相关者的心智模型，解决由多个解释器组件生成的论证问题的推理组件，以及适合于感兴趣的利益相关者的人工智能模型。通过正式化支持前提和推理，我们可以将利益相关者的特征映射到解释技术的特征，从而使我们能够对技术进行推理，并为给定上下文优先选择最佳技术，同时还提供选择决策的透明度。

    Dec, 2023

  • AI 规划器决策的解释方法探讨

    为了建立对 AI 的信任，实现透明化且易懂的 AI 系统成为了重要问题，本文提出了一种通过 AI Planning 实现初步解释的方法，并实现在新的 XAI-Plan 框架中。

    Oct, 2018

  • 论述型可解释人工智能：一项调查

    本文综述了利用计算论证方法建立的可解释 AI 方法，重点关注其不同类型的解释，使用的不同模型，不同交互方式和不同的论证框架。此外，我们还规划了未来的发展方向。

    May, 2021

  • 基于子目标的不可靠智能决策支持系统解释

    本文研究了面向新手用户的非稳健智能决策支持系统的互动，介绍了一种新颖的基于子目标的解释类型，即补充传统智能决策支持系统输出的信息，以提高用户任务表现和系统的鲁棒性。研究表明，基于子目标的解释可实现更好的用户任务表现、提高用户区分优化和非优化智能决策支持推荐的能力、得到用户的喜爱，并在智能决策支持系统失灵的情况下实现更加鲁棒的用户表现。

    Jan, 2022

  • Lean 和 Argumentative 解释下的可解释决策制定

    论文探讨了如何针对目标导向决策与论证性解释构建透明度的自动决策框架，其中使用基于假设的论证建模确保了 “好” 的决策的合理性，进而为不同用户提供精简与论证两种形式的解释。

    Jan, 2022

  • 可解释人工智能的基础交互协议

    本文探讨了可解释人工智能系统中的交互式解释问题，并提出了一种基于代理对话框架的交互协议模型，通过对 398 个解释对话的分析和人机交互实验的验证，证明该模型能够准确地模拟人机交互对话。

    Mar, 2019

  • 选择性解释：利用人类输入对可解释人工智能进行对齐

    本文提出了一种基于人类交流行为启发的可选择性解释框架，通过选择性地展示大量模型原因的子集，根据受众的偏好来尝试解决解释型 AI 算法在如何生成和消耗解释方面存在重大差距的问题，并通过决策支持任务和实验研究证明了其减少依赖 AI 和提高决策结果和主观感知的潜力。

    Jan, 2023

  • 使人工智能更易解释的不同方法学综述

    人们对越来越多的决策由机器完成的需求增加，但黑盒模型的决策推理令人不解，因此需要关注决策推理的清晰度与可解释性，以及如何扩展到反事实思考。

    Nov, 2023

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021