Mar, 2024

可解释人工智能评估实际告诉我们什么？对 XAI 构建模块进行组合与上下文验证的案例

PDF
TL;DR该论文提出了一种基于精细验证框架的解释人工智能，该框架不过分依赖于这些社会技术系统的任何一个方面，并承认它们固有的模块化结构：技术构建模块、面向用户的解释工件和社交通信协议。
发现论文，激发创造
  • 连接算法研究和使用情境：可解释 AI 的情境化评估视角

    本文介绍了可解释性人工智能（XAI）的不同用途，指出现有算法的评估方法对这些用途缺乏考虑，提出了一种基于使用情境的 XAI 评估方法，通过两项调查研究表明，这种方法更能满足用户的需求。

    Jun, 2022

  • 建筑中的可解释人工智能： 内容、环境、过程、结果评估框架

    本文提出了一个内容、上下文、过程和结果评估框架，旨在帮助建筑公司理解可解释人工智能的采用和有效管理，为建筑业实现可解释人工智能的商业价值和好处提供了参考。

    Nov, 2022

  • 从个人经验到量化评估方法：评估可解释 AI 的系统综述

    文章讨论了机器学习模型解释性和可解释性的多方面问题，并提出了 12 个概念性属性，如紧凑性和正确性来全面评估解释的质量。文章还提供了定量 XAI 评估方法的广泛概述，以及提供了创新的库和方法帮助研究人员和从业者彻底验证、基准测试和比较新的和现有的 XAI 方法。

    Jan, 2022

  • 面向解释性人工智能的全面人本评估框架

    通过在解释性人工智能（XAI）中引入用户中心评估框架，我们希望综合评估方法，总结解释属性，建立相互关系，并分类度量这些属性，以期为 XAI 评估的人本标准化做出贡献。

    Jul, 2023

  • 有帮助、误导或使人困惑：人类如何感知人工智能解释的基本构建块

    这篇论文探讨了可解释的人工智能技术和其评估方法之间的差距，介绍了使用简单的数学模型来评估不同模型表述的易理解程度，以及如何设置和执行相关用户研究的概念和实践框架。

    Mar, 2023

  • 解释性人工智能（XAI）评估方法的新视角

    要在可行性、领域特征和风险考虑等方面综合权衡，才能更好地协商可解释性和系统性能之间的平衡，并为未来研究和最佳实践提供基础。

    Jul, 2023

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 透过终端用户启发式设计超越 XAI 算法边界

    本研究介绍了四个新的可解释人工智能技术问题，这些问题围绕设计和评估算法，并呼吁建立基于人类需求的可解释人工智能技术开发研究范式，以保证人工智能在关键任务中的负责任使用。

    Aug, 2022

  • 灵活和上下文特定的 AI 可解释性：一种多学科方法

    该论文提出了一个框架，结合了技术、法律和经济因素，以定义在特定情境下的 “适当” 的解释水平，包括观众、操作环境、系统可能造成的伤害级别和法律 / 监管框架等主要情境因素，并提出了与此相关的社会效益。同时，论文还探讨了可用的技术工具，选择全局和局部解释输出的正确水平，并强调了解释只有在总社会效益大于成本时才具有社会价值。

    Mar, 2020

  • 面向用户的人机交互可解释人工智能框架

    提出了一个以用户为中心的框架，旨在为非专业用户提供交互式可解释人工智能解决方案。

    Sep, 2021