Jun, 2022

可解释性设计：支持决策系统解释的方法论

PDF
TL;DR该研究提出 “设计可解释性” 方法，旨在通过对决策系统的设计采取积极措施来包含解释能力，从而实现个性化解释，并应用该方法于两个实际应用中，证明了该方法能够满足法律、条例或业务需求，并且构建解释的成本可以可控且较低。
explainability by designdecision-making systemssoftware engineeringprovenance tracespersonalized explanations
发现论文，激发创造
  • 以解释性设计为支持的解释分类

    该论文使用 “Explainability-by-Design” 方法，并构建了一个包含 9 个维度的分类学来生成解释以遵循各种监管框架或组织层面的政策需求，从而帮助制定辅助性的自动合规策略，并提供一个机器可读的轻本体论，以便从一系列实例中演示起始 “Explainability-by-Design” 之旅的好处。

    Jun, 2022

  • 使人工智能更易解释的不同方法学综述

    人们对越来越多的决策由机器完成的需求增加，但黑盒模型的决策推理令人不解，因此需要关注决策推理的清晰度与可解释性，以及如何扩展到反事实思考。

    Nov, 2023

  • 决策支持和推荐系统中解释的系统审查和分类

    本文系统审查了建议系统中的解释问题，探究了其目的、生成方式、呈现方式和评估方式，并提出了一个全面的分类法，其中包括解释目标、响应性、内容和呈现等方面，同时还识别了许多未解决的挑战。

    Jun, 2020

  • 可解释性与问责制决策算法的冲突

    本文旨在探讨可解释人工智能是否能帮助解决自主 AI 系统所提出的责任问题，并得出结论，提供一系列建议如何处理算法决策的社会技术过程，并提出采用严格的法规来防止设计者逃避责任。

    May, 2022

  • 可解释性事实表：系统评估可解释方法的框架

    本文介绍一种可用于描述和评估可解释系统的分类法和一组描述符，该分类法包括五个关键维度：功能性、操作性、可用性、安全性和验证性。通过对机器学习的文献进行调研，提取作者们提出或隐含使用的标准和期望，在此基础上提出了五个关键维度，并将其制成可操作的解释事实表格形式，以便于快速掌握特定解释方法的能力和局限性。此分类法可指导新的解释方法的开发。

    Dec, 2019

  • 自动决策中人工解释的何为、何故、何如

    介绍了解释在人工智能和机器学习决策系统中所扮演的角色，提供了解释的替代概念，并评估了现有解释方法和所需的特点。

    Aug, 2018

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 灵活和上下文特定的 AI 可解释性：一种多学科方法

    该论文提出了一个框架，结合了技术、法律和经济因素，以定义在特定情境下的 “适当” 的解释水平，包括观众、操作环境、系统可能造成的伤害级别和法律 / 监管框架等主要情境因素，并提出了与此相关的社会效益。同时，论文还探讨了可用的技术工具，选择全局和局部解释输出的正确水平，并强调了解释只有在总社会效益大于成本时才具有社会价值。

    Mar, 2020

  • EUCA: 以终端用户为中心的可解释人工智能框架

    该研究提出了一种面向终端用户的解释性人工智能框架 EUCA，其中包括 12 种不需要技术知识就可以理解的终端用户友好型解释形式，并进行用户研究来共同设计低保真度原型。

    Feb, 2021

  • 部署中的可解释机器学习

    本研究探讨企业机构如何使用可解释机器学习来提供给利益相关者洞察模型行为，发现目前解释主要面向机器学习工程师，而不是受到模型影响的最终用户，存在内外部利益相关者的差异。研究综合分析了当前解释技术的局限，提出了促进最终用户交互的可解释性目标框架，并讨论了相关的问题。

    Sep, 2019