Jun, 2022

以解释性设计为支持的解释分类

PDF
TL;DR该论文使用 “Explainability-by-Design” 方法，并构建了一个包含 9 个维度的分类学来生成解释以遵循各种监管框架或组织层面的政策需求，从而帮助制定辅助性的自动合规策略，并提供一个机器可读的轻本体论，以便从一系列实例中演示起始 “Explainability-by-Design” 之旅的好处。
automated decision-makingexplainability-by-designtaxonomycomplianceontology
发现论文，激发创造
  • 可解释性设计：支持决策系统解释的方法论

    该研究提出 “设计可解释性” 方法，旨在通过对决策系统的设计采取积极措施来包含解释能力，从而实现个性化解释，并应用该方法于两个实际应用中，证明了该方法能够满足法律、条例或业务需求，并且构建解释的成本可以可控且较低。

    Jun, 2022

  • 决策支持和推荐系统中解释的系统审查和分类

    本文系统审查了建议系统中的解释问题，探究了其目的、生成方式、呈现方式和评估方式，并提出了一个全面的分类法，其中包括解释目标、响应性、内容和呈现等方面，同时还识别了许多未解决的挑战。

    Jun, 2020

  • 可解释性事实表：系统评估可解释方法的框架

    本文介绍一种可用于描述和评估可解释系统的分类法和一组描述符，该分类法包括五个关键维度：功能性、操作性、可用性、安全性和验证性。通过对机器学习的文献进行调研，提取作者们提出或隐含使用的标准和期望，在此基础上提出了五个关键维度，并将其制成可操作的解释事实表格形式，以便于快速掌握特定解释方法的能力和局限性。此分类法可指导新的解释方法的开发。

    Dec, 2019

  • 一个解释并不适用于所有情况：AI 可解释性技术工具包和分类法

    介绍了 AI Explainability 360，这是一个开源的工具包，其中包含八种不同的最先进的解释方法和两个评估指标。通过提供分类法来帮助需要解释的实体导航解释方法的空间，并讨论了提高研究创新性的增强版本以将其更接近解释的使用者。

    Sep, 2019

  • 解释本体学：面向用户中心的人工智能解释模型

    本文介绍了一个解释本体模型以及如何使用该模型支持医疗保健领域用户对解释的需求，并帮助系统设计人员在系统设计和实时操作中选择 AI 系统应提供的解释类型。

    Oct, 2020

  • 基于线性代数的可解释人工智能分类

    该论文提出了一种基于线性代数的分类法，用于提供一个数学方法来区分和比较不同的可解释人工智能技术所产生的解释，特别是针对数据集属于 R^n 的情况下的局部解释。

    Jan, 2023

  • 可解释性不等于解释性：以教育推荐系统为重点的新型定量 XAI 方法

    本文提出了一个新的分类法，以解决解释性人工智能领域中缺乏广泛接受的分类法的问题，并在现有定义和框架的基础上系统分析，重点关注透明性、可解释性、完整性、复杂性和可理解性等核心概念和关系，旨在为未来的研究建立共享词汇。通过使用 SHAP 包，我们在我们新开发的分类法的背景下量化和增强了一个用于从 MERLOT 中策划和推荐最合适的在线资源的推荐系统的可解释性。

    Sep, 2023

  • 法律领域基于规则的决策系统的人本解释

    我们提出了一种人本解释方法，用于法律领域的基于规则的自动决策系统。我们首先建立了一个概念框架来开发解释方法，并表示其关键内部组件（内容、沟通和适应性）和外部依赖（决策系统、人类接收者和领域）。其次，我们提出了一种解释方法，使用图数据库实现基于问题驱动的解释和多媒体展示。这样，我们可以根据用户需求定制解释。最后，我们展示了我们的概念框架如何适用于荷兰税务和海关总署的真实场景，并为该场景实现了我们的解释方法。

    Oct, 2023

  • 人机系统可解释性

    介绍人 - 智能体系统中可解释性的分类法，并回答了解释性以及相关术语 (包括可解释性、透明度、明确性和一致性) 背后的基本问题，包括为什么需要解释性，对谁需要解释和可以生成什么解释来满足这种需求，并考虑什么时候应该向用户呈现这些信息以及如何使用客观和主观的措施来评估整个系统。

    Apr, 2019

  • 关于 AI 解决方案的可解释性：跨领域调查

    该研究是对人工智能模型解释的广泛调查，发现解释决策和原因的不同方法和原因的异质性导致了个体解释框架。

    Oct, 2022