机器学习解释中的不确定性传达：用可视化分析方法进行预测过程监控

Apr, 2023

机器学习解释中的不确定性传达：用可视化分析方法进行预测过程监控

Communicating Uncertainty in Machine Learning Explanations: A Visualization Analytics Approach for Predictive Process Monitoring

PDF

Nijat Mehdiyev, Maxim Majlatow, Peter Fettke

TL;DR本研究探讨了如何在可靠和透明的决策机制中集成不确定性量化和模型可解释性方法，以促进可信的业务和运营过程分析。研究了如何在全局和本地后验解释方法中有效地传达模型不确定性，并检查了适当的可视化分析方法以促进方法论的集成。所提出的方法和界面也得到了专家的反馈。

Abstract

As data-driven intelligent systems advance, the need for reliable and transparent decision-making mechanisms has become increasingly important. Therefore, it is essential to integrate uncertainty quantification and model explainability approaches to foster trustworthy business and oper

uncertainty quantification model explainability post-hoc explanation approaches visualization analytics approaches predictive process monitoring

发现论文，激发创造

预测性流程监控中机器学习不确定性的量化和解释：运筹学视角

本文介绍了一个多阶段综合的机器学习方法，有效地将信息系统和人工智能相结合，以增强操作研究领域内的决策过程的效力。该方法能够解决现有解决方案的常见限制，例如忽略关键生产参数的数据驱动估计、仅生成点预测而不考虑模型不确定性以及缺乏关于不确定性来源的解释。我们的方法利用分位数回归森林生成间隔预测，同时采用了局部和全局版本的 SHapley 加性解释，用于研究预测过程监测问题。通过一个实际的生产计划案例研究，我们证明了所提出方法的实际适用性，强调了规范分析在完善决策程序方面的潜力。本文强调了解决这些挑战以充分利用广泛和丰富的数据资源来进行明智决策。

Apr, 2023

可解释的预测过程监控：用户评估

本研究在预测过程监测领域进行用户评估，旨在探究模型解释是否可理解、在决策制定任务中是否有用以及如何使其更适合过程分析师，结果表明，说明套装总体上对业务流程管理用户具有可理解性和对决策制定任务有用，但不同绘图方式的理解和使用存在差异，不同机器学习专业水平的用户对其理解和使用方式也有所不同。

Feb, 2022

VOICE：用于量化神经网络解释不确定性的诱导式对比解释的方差

该论文可视化和量化基于梯度的神经网络后续可视化解释的预测不确定性，指出不确定性降低了解释的可信度，提出了一种插件方法以可视化和量化任何基于梯度的解释技术剩余的预测不确定性，并通过两个数据集、四种解释技术和六种神经网络架构对提出的观察进行了支持。

Jun, 2024

预测不确定性的模型无关变量重要性：一种基于熵的方法

这篇论文介绍了如何将解释性方法扩展到具有不确定性意识的模型中，并演示了如何通过这些方法深入理解模型行为、特征对预测分布熵和真实标签对数似然的影响，以及不确定性来源对模型性能的影响。

Oct, 2023

机器学习解释的艺术与科学

本文讨论超越传统误差测量和图形评估机器学习模型的几种通用的解释方法，包括决策树模型、个体条件期望、局部可解释模型无关解释、偏置度量图和 Shapley 解释；并提供现实应用建议和公共软件示例以复现性检验。

Oct, 2018

不确定性作为透明度的一种形式：测量、沟通和使用不确定性

本文介绍了一种补充的透明度形式 —— 估计和传达模型预测的不确定性，探讨了如何使用不确定性来缓解模型的不公平性、增强决策制定，并在现有机器学习管道中集成不确定性所需的信息。

Nov, 2020

神经网络中基于梯度的解释的不确定性量化

本文提出一个流程，通过结合不确定性估计方法和解释方法来确定神经网络解释的不确定性，使用该流程对 CIFAR-10、FER + 和加利福尼亚房屋数据集生成解释分布，并通过计算这些分布的变异系数来评估解释的置信度，结果表明使用引导反向传播生成的解释具有较低的不确定性，并计算修改后的像素插入 / 删除指标来评估生成解释的质量。

Mar, 2024

通过非参数自举法使用可解释的不确定性估计来监测模型恶化

研究如何利用非参数自助法和 SHAP 值提供可解释的不确定性估计，在部署环境中监测机器学习模型的退化，以及在缺乏目标标签时确定模型退化的来源，该方法在与当前最先进的方法相比展现了更好的性能。

Jan, 2022

不确定性解释性：神经网络的可信决策

机器学习模型中的不确定性是一个关键特征，尤其在神经网络中更为重要，因其倾向于过于自信。本研究提出了一个通用的不确定性框架，将不确定性估计定位为可解释的人工智能技术，并引入分类与拒绝机制以减少错误分类，同时应用于教育数据挖掘中的神经网络案例研究，提高模型在操作研究中决策任务中的可信度与行动性。

Mar, 2024

利用人工神经网络学习不确定性以改进预测性流程监控

研究了使用贝叶斯神经网络中的可学习不确定性来训练预测过程监控模型，以预测剩余时间和结果，并得出结论认为这种不确定性估计可以区分更精确和不太精确的预测，从而提高了用户对于这种预测系统的信心，在合作和以较小的数据集进行更早的实施方面具有潜在的可应用性。

Jun, 2022