Oct, 2023

法律领域基于规则的决策系统的人本解释

PDF
TL;DR我们提出了一种人本解释方法，用于法律领域的基于规则的自动决策系统。我们首先建立了一个概念框架来开发解释方法，并表示其关键内部组件（内容、沟通和适应性）和外部依赖（决策系统、人类接收者和领域）。其次，我们提出了一种解释方法，使用图数据库实现基于问题驱动的解释和多媒体展示。这样，我们可以根据用户需求定制解释。最后，我们展示了我们的概念框架如何适用于荷兰税务和海关总署的真实场景，并为该场景实现了我们的解释方法。
human-centred explanationrule-based automated decision-making systemslegal domaingraph databasedutch tax and customs administration
发现论文，激发创造
  • 基于文化的可解释人机冲突解决

    该研究提出了一种基于论证对话的人工智能体架构，将人类规则映射到可以解释行为的人工智能文化中，并通过用户研究验证了其有效性，结果表明当系统更加复杂时，解释可以显著提高人类绩效表现。

    Nov, 2019

  • 决策支持和推荐系统中解释的系统审查和分类

    本文系统审查了建议系统中的解释问题，探究了其目的、生成方式、呈现方式和评估方式，并提出了一个全面的分类法，其中包括解释目标、响应性、内容和呈现等方面，同时还识别了许多未解决的挑战。

    Jun, 2020

  • 以解释性设计为支持的解释分类

    该论文使用 “Explainability-by-Design” 方法，并构建了一个包含 9 个维度的分类学来生成解释以遵循各种监管框架或组织层面的政策需求，从而帮助制定辅助性的自动合规策略，并提供一个机器可读的轻本体论，以便从一系列实例中演示起始 “Explainability-by-Design” 之旅的好处。

    Jun, 2022

  • 面向人类的人工智能评估框架

    本文提出了一个人类中心的评估框架，用于检测可靠的和值得信赖的 AI 系统，以及评估 AI 系统表现如何与领域专家进行比较。该框架可以作为一种人类中心的 AI 系统评估方法。

    May, 2022

  • 自动决策中人工解释的何为、何故、何如

    介绍了解释在人工智能和机器学习决策系统中所扮演的角色，提供了解释的替代概念，并评估了现有解释方法和所需的特点。

    Aug, 2018

  • 关于解释、公平感知和决策之间的关系

    研究人员探讨了 AI 系统推荐错误或不公平的情况下，人工干预的必要性，并提供了关于解释、公平感知、依赖和分布公平性之间关系的理论框架，但文献并没有提供确凿证据证明解释在实践中实现了这种补充关系。

    Apr, 2022

  • 基于上下文决策和解释的认知视角

    通过理解人类认知中心的特点，提出了使用 “上下文重要性和效用（Contextual Importance and Utility method）” 等方法去实现可解释的 AI 决策。

    Jan, 2021

  • 解释本体学：面向用户中心的人工智能解释模型

    本文介绍了一个解释本体模型以及如何使用该模型支持医疗保健领域用户对解释的需求，并帮助系统设计人员在系统设计和实时操作中选择 AI 系统应提供的解释类型。

    Oct, 2020

  • 学习分类器系统中的规则发现和全局解决方案组合分离

    本文针对数字代理支持关键决策的应用难以获得信任这一难题，提出了基于规则学习的系统并设计透明易懂的模型，其中规则条件和问题解决方案的组成是分开演化的，允许用户特别定制模型以适应可解释性的要求。

    Feb, 2022

  • 可解释性设计：支持决策系统解释的方法论

    该研究提出 “设计可解释性” 方法，旨在通过对决策系统的设计采取积极措施来包含解释能力，从而实现个性化解释，并应用该方法于两个实际应用中，证明了该方法能够满足法律、条例或业务需求，并且构建解释的成本可以可控且较低。

    Jun, 2022