将领域知识融入基于 AI 的 “黑箱” 模型，以提高其可解释性并应用于破产预测

KDDMay, 2019

将领域知识融入基于 AI 的 “黑箱” 模型，以提高其可解释性并应用于破产预测

Infusing domain knowledge in AI-based "black box" models for better explainability with application in bankruptcy prediction

PDF

Sheikh Rabiul Islam, William Eberle, Sid Bundy, Sheikh Khaled Ghafoor

TL;DR本文介绍了一个将领域知识存在一个 “黑匣子” 模型中的方法以提高模型的解释性和可理解性，为银行破产预测等领域带来更好的应用前景。

Abstract

Although "black box" models such as Artificial Neural Networks, Support Vector Machines, and Ensemble Approaches continue to show superior performance in many disciplines, their adoption in the sensitive disciplines (e.g., finance, healthcare) is questionable due to the lack of interpretability and explainability of the model. In fact, future adoption of "bl

black box models explainable artificial intelligence bankruptcy prediction domain knowledge interpretable

发现论文，激发创造

使用可解释模型代替不透明模型进行高风险决策

本文讨论机器学习中的黑盒模型和渴望解释这些模型的方法，强调设计本质可解释模型的必要性以替换高风险决策中的黑盒模型，包括揭示解释黑盒与使用可解释模型之间的差异、阐明避免使用解释型黑盒的原因、提出挑战和解释机器学习的几个应用案例。

Nov, 2018

监督式机器学习可解释性调查

该综述论文提供了解释性监督机器学习的基本定义、原则和方法，并对过去和最近的解释性机器学习方法进行了分类和综述。通过解释性案例研究阐明了原则，并讨论了重要的未来方向。

Nov, 2020

可解释人工智能方法：一项调查

该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

Jan, 2021

可解释的人工智能：理解、可视化和解释深度学习模型

基于深度学习的解释性可视化方法在人工智能领域日益被重视，本文总结了目前解释深度学习模型的最新发展，并提出两种解释预测的方法，并将这些方法用于三个分类任务中进行评估。

Aug, 2017

构建医学领域可解释的 AI 系统需要什么？

本篇论文介绍了医学领域中解释性人工智能的研究，强调让人们能够透明地理解和信任 AI/ML 技术的重要性，主要关注于图像、* 组学数据和文本三个方面。

Dec, 2017

黑盒模型解释方法的基准测试和调查

这篇论文探讨了在人工智能中黑盒模型的广泛应用，加强了揭示这些模型是如何做出决策的需求，首先提出一种基于返回信息类型的解释方法分类，展示最近和广泛使用的解释器，通过视觉比较和定量基准测试进行展示。

Feb, 2021

面向可解释的人工智能

本文介绍了机器学习和深度学习算法在科学和工业领域中的应用及其不透明性问题，提出了解释性学习算法和可视化方法的重要性。

Sep, 2019

走向可解释人工智能方法基准测试

本文以科学哲学理论作为分析视角，研究解释性方法在神经网络性能评估中的应用，并发现解释性方法的实用性依赖于人类领域知识和理解推理能力。本研究得出结论，基准测试解释性方法是迈向可信人工智能和机器学习的中心任务。

Aug, 2022

可解释人工智能方法的可靠性和稳定性如何？

黑盒模型、可解释人工智能方法（XAI 方法）、eXirt、扰动等是本研究的关键词，通过实验和生成解释以评估 XAI 方法的稳定性和可靠性。结果表明，eXirt 能够识别出最可靠的模型，同时发现当前 XAI 方法对扰动敏感，但存在一个特定方法例外。

Jul, 2024

基于领域驱动 XAI 方法的金融时间序列预测 AI 系统良好实践假设

机器学习和深度学习在金融预测中越来越普遍，但是这些复杂模型缺乏透明度和可解释性，在金融等敏感领域使用具有挑战性。本文探讨了在金融领域中应用可解释性人工智能的好方法，强调数据质量、面向特定人群的方法、数据属性的考虑以及解释的稳定性的重要性。这些实践旨在应对金融行业的独特挑战和要求，并指导有效的可解释性人工智能工具的开发。

Nov, 2023