IJCAIDec, 2017

可解释性人工智能：小心监狱囚犯当了看守 或者：如何摆脱担忧，爱上社会和行为科学

PDF
TL;DR该论文认为解释性人工智能（AI）存在一个程序员主导设计决策的类似问题，需要将哲学、心理学和认知科学等社会和行为科学的大量研究结果纳入可解释的 AI，从人的角度评估这些模型的质量，以取得更大的成功。
explainable aiuser perspectiveinteraction designphilosophypsychology
发现论文，激发创造
  • 人工智能中的解释性：来自社会科学的见解

    该论文提出，可从解释生成、选择、评估和呈现的人类认知偏见和社会期望中借鉴人类解释行为，以推进可解释的人工智能领域，并回顾了哲学、认知心理学、社会心理学等相关领域的研究成果。

    Jun, 2017

  • 可解释的人工智能与人类互动：一种规划视角

    AI 系统与人类的相互作用中，理解计算机中的心智模型和说明性交流对于实现合作场景和操纵人类期望至关重要。

    May, 2024

  • 利用解释桥接人工智能和人类

    该研究论文提出了解释性机器学习方法来提高人类决策水平和人工智能协助决策效能之间的差距。

    Mar, 2020

  • AI 解释的解释

    该论文关注机器学习中可解释性问题，侧重于简化模型的构建及不同形式的解释与说明，并探讨了机器学习在处理该问题时的广义视角。

    Nov, 2018

  • 人工智能系统中的解释原则

    本文探讨了人类尺度的设计、测试和实现 Explainable Artificial Intelligence 的基本概念，并提出了一种 “自解释指南” 的方法，以帮助开发人员了解如何通过启用自解释来赋能用户。最后，提出了一套经过实证基础、以用户为中心的设计原则，可以指导开发人员创建成功的解释系统。

    Feb, 2021

  • 透过终端用户启发式设计超越 XAI 算法边界

    本研究介绍了四个新的可解释人工智能技术问题，这些问题围绕设计和评估算法，并呼吁建立基于人类需求的可解释人工智能技术开发研究范式，以保证人工智能在关键任务中的负责任使用。

    Aug, 2022

  • 跨学科方法探讨人工智能对社会影响的理解

    人工智能创新主要关注 “what” 和 “how” 问题，忽视可能的危害与社会背景，导致了潜在的社会技术问题，因此我们需要计算机科学和社会学科之间更紧密的联系。

    Dec, 2020

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 以人为中心的可解释人工智能：走向一种反思性社会技术方法

    介绍了以人为中心的可解释人工智能作为一种方法，该方法考虑了价值观、人际动态和人工智能系统的社会情境性，通过反思的社会技术方法，提出了开放性研究问题，文献以解释系统为例，讨论了人类的因素如何影响系统技术进步，并提出了基于批判性技术实践的反思的 HCXAI 范式，以及价值敏感设计和参与式设计等策略。

    Feb, 2020

  • 打造可理解的人工智能的挑战

    本文旨在探讨人工智能在关键任务中的应用，提出了增强人工智能可解释性的重要性，并总结了当前构建可解释模型及说明方法的研究进展和关键方向。

    Mar, 2018