Jun, 2017

人工智能中的解释性：来自社会科学的见解

PDF
TL;DR该论文提出，可从解释生成、选择、评估和呈现的人类认知偏见和社会期望中借鉴人类解释行为，以推进可解释的人工智能领域，并回顾了哲学、认知心理学、社会心理学等相关领域的研究成果。
explainable artificial intelligencehuman observercognitive biasessocial expectationsexplanation process
发现论文，激发创造
  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 使人工智能更易解释的不同方法学综述

    人们对越来越多的决策由机器完成的需求增加，但黑盒模型的决策推理令人不解，因此需要关注决策推理的清晰度与可解释性，以及如何扩展到反事实思考。

    Nov, 2023

  • 评估强化学习场景中机器人行动的类人解释

    本文探讨了透明度逐渐成为自主智能系统的必要品质，提供了人性化的基于成功概率的解释方法，并通过用户调查证明该种解释对于非专业人士更易理解和接受。

    Jul, 2022

  • AI 解释的解释

    该论文关注机器学习中可解释性问题，侧重于简化模型的构建及不同形式的解释与说明，并探讨了机器学习在处理该问题时的广义视角。

    Nov, 2018

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 人工智能系统中的解释原则

    本文探讨了人类尺度的设计、测试和实现 Explainable Artificial Intelligence 的基本概念，并提出了一种 “自解释指南” 的方法，以帮助开发人员了解如何通过启用自解释来赋能用户。最后，提出了一套经过实证基础、以用户为中心的设计原则，可以指导开发人员创建成功的解释系统。

    Feb, 2021

  • 人工智能系统中的解释性：文献综述、主要观点和出版物概要，以及可解释性人工智能参考书目

    这篇综述论文回答了 “什么是良好的解释” 的问题，并涵盖了人工智能 (AI) 系统的历史、现代 AI 的解释问题和挑战、领先心理学理论的发展。鉴于 XAI 系统的特殊性，建议 AI/XAI 研究人员在其研究报告中包含更多有关其经验或实验方法的详细信息，类似于实验心理学研究报告，包括参与者、说明、程序、任务、被试变量 （度量和指标的操作定义）、自变量 （条件）和控制条件。

    Feb, 2019

  • 走向可解释人工智能方法基准测试

    本文以科学哲学理论作为分析视角，研究解释性方法在神经网络性能评估中的应用，并发现解释性方法的实用性依赖于人类领域知识和理解推理能力。本研究得出结论，基准测试解释性方法是迈向可信人工智能和机器学习的中心任务。

    Aug, 2022

  • 自动决策中人工解释的何为、何故、何如

    介绍了解释在人工智能和机器学习决策系统中所扮演的角色，提供了解释的替代概念，并评估了现有解释方法和所需的特点。

    Aug, 2018