May, 2022

TRUST XAI: 模型无关的人工智能解释及工业物联网安全案例研究

PDF
TL;DR提出了一种通用的解释型 AI 模型 TRUST，采用因子分析、互信息和多模态高斯分布等方法，用于解释海量数字数据应用中黑盒子型 AI 的输出，案例研究表明该模型在工业物联网网络安全领域表现良好，对新的样本的解释成功率平均可达到 98%，且在性能、速度和解释方式等方面优于流行的 LIME 模型。
explainable aitransparency relying upon statistical theorynumerical applicationscybersecurityindustrial internet of things
发现论文，激发创造
  • 信任与否：衡量 XAI 系统信任的一种新方法

    本文提出了一种衡量用户对 XAI 系统的信任的新方法，结合了性能指标和信任指标，并在真实医学场景中进行了肺炎检测实验来验证该方法。

    May, 2024

  • 可解释人工智能（XAI）在物联网中的应用调查

    本文针对黑盒子人工智能模型存在的不可解释性问题，在物联网领域提供了一些可解释的人工智能模型的系统性研究和分类，同时探讨了一些挑战性问题和未解决问题，并给出了未来发展方向。

    Jun, 2022

  • 度量效用、赢得信任：XAI 研究员的实用建议

    机器学习模型解释学（即可解释性 AI）的研究与深度人工神经网络同步呈指数增长，但传统的信任和解释却太狭隘，导致研究社区被误导。该研究提出了一种实用的解决方案，建议研究人员关注机器学习解释的实用性而非信任，提出五种广泛的用例，并为每种情况描述可依靠客观经验测量和可证伪假设的伪实验。该实验严谨的处理方法将对 XAI 领域的科学知识的进一步贡献是必要的。

    Sep, 2020

  • 可解释性物联网人工智能：概述、现状和未来方向

    论文综述了可解释人工智能（XAI）在物联网中的应用，重点介绍了 XAI 在安全增强、医疗物联网（IoMT）、工业物联网（IIoT）和城市物联网（IoCT）等应用中的广泛使用以及在这些应用中 XAI 模型的实现选择，同时介绍了边缘 XAI 结构和第六代（6G）通信服务对物联网应用的支持。

    Nov, 2022

  • 基于项目反应理论的举例解释

    本研究使用 IRT 作为一种解释模型和衡量 Explanation-by-Example 方法的可靠性的工具，发现在测试集中，83.8％的错误是通过 IRT 界定该模型不可靠。

    Oct, 2022

  • 网络安全可解释人工智能调查

    通过对网络系统中的网络驱动安全威胁和问题进行系统分类，本文就网络安全中的可解释人工智能问题进行了回顾和研究，探讨了解释人工智能目前的挑战和局限性，并提出了未来的研究方向。

    Mar, 2023

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 使用形式化方法证明 XAI 神话 -- 初步结果

    这篇研究论文探讨了可解释人工智能的重要性以及存在的困境和误解，通过形式化方法来反驳这些误解并提出实际有效的替代方法。

    May, 2023

  • 评估流行的可解释人工智能在临床预测模型中的应用：能否信赖？

    本研究旨在评估两种流行的可解释人工智能方法在医疗保健背景下解释预测模型的精确度，重点考虑是否产生与应用任务相一致的域适当表示，如何影响临床工作流程以及是否一致性，结果表明目前的技术还有改进的空间。

    Jun, 2023

  • 面向网络安全的可解释人工智能：现状、挑战、未解问题和未来方向

    本文综述了可解释人工智能在网络安全领域中的应用，以及传统人工智能技术的挑战和在不同行业和应用中 XAI 的实现。

    Jun, 2022