May, 2024

模型解释性与可解释性：朝着预测模型的透明度创造进发

PDF
TL;DR在分析建模中，可解释人工智能（XAI）有一个对应的概念，我们称之为模型解释性。我们在预测模型的上下文中处理模型解释性问题，并通过执行和比较四种不同的预测方法，应用当前文献中所知的最佳解释技术来分析一家信用卡公司的贷款数据集，以确定特征重要性（FI）（静态案例），并最终在连续和分类变量的何种预测场景下交叉验证 FI 集合的准确性（动态案例）。我们发现了静态和动态案例之间 FI 识别的不一致性，并总结了模型解释性的最新进展，并建议进一步研究以推动该领域。
explainable aimodel explainabilityprediction modelsfeature importancedynamic case
发现论文，激发创造
  • 基于领域驱动 XAI 方法的金融时间序列预测 AI 系统良好实践假设

    机器学习和深度学习在金融预测中越来越普遍，但是这些复杂模型缺乏透明度和可解释性，在金融等敏感领域使用具有挑战性。本文探讨了在金融领域中应用可解释性人工智能的好方法，强调数据质量、面向特定人群的方法、数据属性的考虑以及解释的稳定性的重要性。这些实践旨在应对金融行业的独特挑战和要求，并指导有效的可解释性人工智能工具的开发。

    Nov, 2023

  • 可解释人工智能在数据驱动系统中的隐私影响

    机器学习模型的不透明性威胁到其可解释性，可解释人工智能（XAI）技术通过提供解释 ML 模型内部决策过程的框架和方法来解决这一挑战，同时维护隐私的难题需要在理解 ML 决策和保护隐私之间找到平衡点。

    Jun, 2024

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 挑战功能归因解释中的常见可解释性假设

    通过人类实验，我们发现属性解释法在某些情况下会导致决策者做出更糟糕的决策，这一结果挑战了应用这些方法的普遍好处的假定，在可解释的 AI 研究中人类评价的重要性下应该得到重视。

    Dec, 2020

  • T-Explainer: 基於梯度的模型无关解释性框架

    可解释人工智能（Explainable Artificial Intelligence）通过提供准确、一致且稳定的解释，解决机器学习中黑盒模型的透明度问题，其中基于泰勒展开的 T-Explainer 成为了一种有效的特征归因方法。

    Apr, 2024

  • 机器学习模型中的统一解释：一种扰动方法

    面向可解释人工智能（XAI）的高速范式转变已在近年来出现。高度复杂的机器学习（ML）模型在许多智能任务中蓬勃发展，而问题开始从传统的有效性度量转向更深层次的问题：该模型告诉我关于我的数据什么，它是如何得出这些结论的？XAI 和建模技术之间的不一致可能对这些解释性方法的效力产生质疑。为了解决这些问题，我们提出了一种针对流行的 XAI 的模型不可知方法 SHapley Additive exPlanations（Shap）进行系统的扰动分析。我们设计了一些算法，在动态推理的设置下生成相对特征重要性，这些设置针对一套流行的机器学习和深度学习方法，以及允许我们量化静态情况下生成解释的质量的度量指标。我们提出了特征重要性方法论的分类体系，度量了一致性，并观察了几个数据集中解释模型之间的可量化相似性。

    May, 2024

  • 金融可解释人工智能综合评论

    本文通过对金融领域中深度学习模型可解释性方法的比较研究，对人工智能和深度学习模型的成功及其在各个行业中的广泛应用进行了讨论，并对可解释性人工智能方法的分类、关注点和挑战进行了综述，并提出了未来方向。

    Sep, 2023

  • 协调解释性要求的七个挑战

    本文回顾了最近关于可解释 AI（XAI）的技术文献，并认为基于我们当前对该领域的理解，实践中使用 XAI 技术需要考虑特定业务应用程序的利益相关者的具体需求。

    Aug, 2021

  • 朝向可组合解释性的 XAI

    人工智能（AI）目前主要基于黑箱机器学习模型，缺乏可解释性，解释性人工智能（XAI）的研究旨在解决这一主要问题；本论文提出一种基于范畴论的定义 AI 模型及其可解释性的方法，通过使用组合模型的概念，以形式化的字符串图表达抽象结构和具体实现，包括确定性、概率性和量子模型，并比较了广泛的 AI 模型作为组合模型，包括线性模型、基于规则的模型、（循环）神经网络、变换器、VAEs 以及因果图和 DisCoCirc 模型；定义了模型的解释性，演示如何分析模型的可解释性，并用此来阐明 XAI 中的共同主题；发现标准的 “本质可解释性” 模型在图表中展示得最清晰，从而引出了更一般的组合可解释（CI）模型的概念，其中还包括因果性、概念空间和 DisCoCirc 模型；演示了 CI 模型的可解释性益处，包括通过组合结构计算其他感兴趣量，通过匹配结构实现从模型到被模拟现象的推理，以及基于影响约束、图表手术和重写解释的图表解释行为；最后讨论了该方法的未来发展方向，提出了如何在实践中学习这种有意义结构的模型的问题。

    Jun, 2024

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021