MMAug, 2018

自动决策中人工解释的何为、何故、何如

PDF
TL;DR介绍了解释在人工智能和机器学习决策系统中所扮演的角色，提供了解释的替代概念，并评估了现有解释方法和所需的特点。
artificial intelligenceautomated decision-makingexplanationexplanatory powermachine learning
发现论文，激发创造
  • 使人工智能更易解释的不同方法学综述

    人们对越来越多的决策由机器完成的需求增加，但黑盒模型的决策推理令人不解，因此需要关注决策推理的清晰度与可解释性，以及如何扩展到反事实思考。

    Nov, 2023

  • AI 解释的解释

    该论文关注机器学习中可解释性问题，侧重于简化模型的构建及不同形式的解释与说明，并探讨了机器学习在处理该问题时的广义视角。

    Nov, 2018

  • 人工智能中的解释性：来自社会科学的见解

    该论文提出，可从解释生成、选择、评估和呈现的人类认知偏见和社会期望中借鉴人类解释行为，以推进可解释的人工智能领域，并回顾了哲学、认知心理学、社会心理学等相关领域的研究成果。

    Jun, 2017

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • TED: 教授人工智能解释其决策

    本文介绍了一种名为 TED（Teaching Explanations for Decisions）的实用框架，它提供了能够匹配消费者心智模型的有意义的解释，通过两个例子的演示，表明这种方法的广泛性和有效性，同时无损准确性。

    Nov, 2018

  • 寻求可验证性：解释很少能够在 AI 辅助的决策判断中提供补充性的表现

    本文聚焦 AI 辅助决策，在 AI 解释人类决策过程中频繁失败的背景下，提出了一个简单的理论，即解释只有在允许决策者验证其正确性时才有用，我们讨论了更有效的 AI 决策解释方法和人工智能 - 人类决策的协作。

    May, 2023

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • AI 规划器决策的解释方法探讨

    为了建立对 AI 的信任，实现透明化且易懂的 AI 系统成为了重要问题，本文提出了一种通过 AI Planning 实现初步解释的方法，并实现在新的 XAI-Plan 框架中。

    Oct, 2018

  • 关于 AI 解决方案的可解释性：跨领域调查

    该研究是对人工智能模型解释的广泛调查，发现解释决策和原因的不同方法和原因的异质性导致了个体解释框架。

    Oct, 2022

  • 可解释的人工智能已死，长命可解释的人工智能！基于假设的决策支持

    本篇论文主张从现有的可解释人工智能 (XAI) 模型转变到基于评价的人工智能 (Evaluative AI) 以减轻提供推荐的对人类决策制定的限制和不对人类决策制定的认知过程考虑不足带来的问题，并更好地利用人类决策制定的专业知识。

    Feb, 2023