Jul, 2024

工业过程建模中可解释人工智能的鲁棒性

HTML
PDF
TL;DR评估目前的可解释人工智能方法，通过基于真实模拟和敏感性分析对其进行评分。综合应用各种黑盒模型进行评估，结果显示机器学习模型的准确性与其可解释性密切相关，并展示了可解释人工智能方法在工业过程中预测真实敏感性的差异。
发现论文，激发创造
  • 流程结果预测中的可解释性: 获取可解释和忠实模型的指南

    本文提出了一种解释性度量方式并应用于基于过程的结果预测领域，然后通过对13个现实事件日志的实验测试七个分类器和可解释技术，提供了一个名为X-MOP的指南，以选择合适的模型。

    Mar, 2022

  • 我们需要另一种可解释的AI方法吗？将事后可解释性评估方法统一为一种交互式和多维基准

    提出了一种名为Compare-xAI的基准测试框架，该框架统一了xAI算法的所有排他性功能测试方法，帮助研究人员、从业人员和普通人解释模型结果，同时提供了可互动的用户界面。

    Jun, 2022

  • 可解释人工智能方法评论：SHAP和LIME

    这篇论文探讨解释的可解释人工智能（XAI）方法，特别是 SHapley 加性解释和局部可解释模型无关解释等两种使用广泛的方法，提出一个框架来解释它们的输出，强调它们的优缺点。

    May, 2023

  • 可解释预测性维护

    本文强调了现有可解释人工智能的方法与行业应用之间的鸿沟，并探讨了特定于预测维护领域的解释方案的需求和不同目的，列举和描述了通常在文献中使用的可解释人工智能技术，最后展示了四个特定的工业用途案例。

    Jun, 2023

  • XAI-TRIS: 量化机器学习解释能力的非线性基准测试

    本文探讨不同非线性分类场景下，解释性人工智能模型的表现，并通过一系列实验测试发现，当前流行的XAI方法往往无法显著提高准确性基线和边缘检测方法，甚至在不同模型结构下产生非常不同的解释，存在误解的风险。

    Jun, 2023

  • 机器学习生命周期中可解释人工智能的千变万化：工业现实与研究现状

    该研究考察了可解释人工智能（XAI）在实际中的相关性，特别关注生产行业，并将其与当前学术XAI研究进行了比较。通过对多个行业中的各种职位和关键利益相关者进行广泛访谈，我们发现了XAI在当前工业实践中沿着机器学习（ML）生命周期的应用和未来的相关性。与当前研究方法相比，我们的访谈结果揭示出一些差异。虽然存在多种不同的XAI方法，但其中大多集中在模型评估阶段和数据科学家上。其他阶段的多样化功能目前要么未被充分探索，要么在实践者中不流行。与现有研究一致，我们的研究也确认了需要更多的努力来使非专业用户能够理解和解释不透明的AI模型，使用现有的方法和框架。

    Oct, 2023

  • 可解释人工智能（XAI）2.0：开放挑战和跨学科研究方向的宣言

    通过提出27个开放问题分类为九类，本文不仅强调了XAI及其在现实世界中的应用的进展，也解决了XAI中的挑战，并强调了更广泛的视角和协作努力的需求，以推动XAI的发展和贡献于其持续成功。

    Oct, 2023

  • 不确定性解释性：神经网络的可信决策

    机器学习模型中的不确定性是一个关键特征，尤其在神经网络中更为重要，因其倾向于过于自信。本研究提出了一个通用的不确定性框架，将不确定性估计定位为可解释的人工智能技术，并引入分类与拒绝机制以减少错误分类，同时应用于教育数据挖掘中的神经网络案例研究，提高模型在操作研究中决策任务中的可信度与行动性。

    Mar, 2024

  • 准确故障检测和诊断的可解释人工智能技术综述

    制造业中的深度学习模型的不透明性对故障检测和诊断构成了重要挑战。本文对可解释人工智能（XAI）的工具和技术进行了综述，探讨了各种XAI方法在增加人工智能决策透明度方面的作用，特别是在涉及人类的关键情景中。同时，我们还讨论了当前的局限性以及未来潜在的研究，旨在在改善信任度的同时平衡可解释性与模型性能，以应用于关键工业用例的人工智能应用。

    Apr, 2024

  • 可解释人工智能：需求、技术、应用与未来方向的调查

    该研究针对人工智能模型在安全关键领域（如医疗、金融和自动驾驶）中的“黑箱”特性，探讨了可解释人工智能（XAI）的必要性和现状。本文通过全面的文献综述，填补了关于XAI模型的数学表述和设计方法论的空白，旨在提升AI模型的可信性、透明性、责任性和公平性。

    Aug, 2024