Jan, 2021

扩展可解释性：AI 系统的社会透明度

PDF
TL;DR介绍和探索社交透明度 (ST) 的概念，该概念将社会组织背景融入到解释人工智能决策的过程中，旨在提高人工智能决策的信任度、改善决策过程、促进组织集体行动和增强说服力。
explainable aisocial transparencysocio-organizational contextdecision-makingtrust
发现论文，激发创造
  • 实现人工智能功能透明度与有意义的可解释性之路

    人工智能的功能透明性在透明系统中遵守设计框架中成为关键挑战，要求跨学科合作来推进透明和可解释的人工智能系统的发展。

    Oct, 2023

  • 可解释人工智能是负责任的人工智能：解释性如何创造值得信任和社会负责的人工智能

    人工智能是一个有潜力革命化从医疗保健到金融等领域的技术，但需要负责任地开发和部署。这篇研究论文探讨了负责任人工智能和可解释人工智能的关系，并发现可解释人工智能在确保公平性、透明度等方面对负责任人工智能是至关重要的。

    Dec, 2023

  • 面向用户的人机交互可解释人工智能框架

    提出了一个以用户为中心的框架，旨在为非专业用户提供交互式可解释人工智能解决方案。

    Sep, 2021

  • 以人为中心的可解释人工智能：走向一种反思性社会技术方法

    介绍了以人为中心的可解释人工智能作为一种方法，该方法考虑了价值观、人际动态和人工智能系统的社会情境性，通过反思的社会技术方法，提出了开放性研究问题，文献以解释系统为例，讨论了人类的因素如何影响系统技术进步，并提出了基于批判性技术实践的反思的 HCXAI 范式，以及价值敏感设计和参与式设计等策略。

    Feb, 2020

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 人工智能系统中的解释原则

    本文探讨了人类尺度的设计、测试和实现 Explainable Artificial Intelligence 的基本概念，并提出了一种 “自解释指南” 的方法，以帮助开发人员了解如何通过启用自解释来赋能用户。最后，提出了一套经过实证基础、以用户为中心的设计原则，可以指导开发人员创建成功的解释系统。

    Feb, 2021

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 可信的 AI 系统需要准确性和解释性两者兼备

    本文说明在 AI 经济和社会领域中，快速发展的 AI 技术在很多方面已经超越人类专家。但由于错误率、偏见、噪声干扰等因素，AI 系统的应用却面临诸多挑战。为应对这种问题，出现了很多政府和监管部门针对具有准确性和健壮性的可信赖、道德的 AI 技术的监管机制。其中，说明性的 AI 技术则被广泛应用。本文从几方面介绍了这种技术在高风险可信赖 AI 系统的全生命周期中的应用。

    Dec, 2022

  • 超越可解释人工智能：面向负责任人工智能的障碍

    透明度、可理解性和责任 AI 的局限性以及其与隐私、公平性和争议性等重要方面的联系。

    Sep, 2023