本文综述了可解释人工智能（XAI）领域内的现有文献，并对未来的研究前景进行了探讨。我们提出了一种新的可解释性定义，针对各种机器学习模型提出了分类。同时，我们讨论了XAI面临的一系列挑战，如数据融合和解释性之间的折衷等。最终，我们的观点指向了“负责任人工智能”的概念，在其中强调了AI方法在实际组织中的实施中必须保证公平性、模型可解释性和可追溯性。

Oct, 2019

本研究的目的是对可解释性（Explainable AI，XAI）领域的现状提供一个视角，并提供解释性和可解释性的新定义，以开始标准化这个研究领域。研究提供了可解释性文献的概述和现有方法的概述，最后提供了不同可解释性方法的初步分类法，为未来的研究打开了大门。

Oct, 2020

应用人工智能和机器学习于网络安全已有广泛应用, 特别是使用深度学习技术设计的IDS. 然而，这些系统被视为黑盒模型，无法提供预测的合理解释。因此，需要设计可解释的IDS，调查了可解释AI的现状，并提出了一种人们参与的通用架构，以用作设计X-IDS的指导

Jul, 2022

本文系统评述 XAI 应用于网络安全的研究现状，探讨 XAI 在哪些领域已经适用于网络安全，并解决黑箱 AI 在网络安全领域应用中的难点。

Feb, 2023

本文提出一种基于系统论的统一、包容、用户中心分类法，旨在解决现有的以专家为中心的可解释人工智能方法的不足之处，以此评估适用于不同用户类型的解释方法的适当性和性能。

Mar, 2023

通过对网络系统中的网络驱动安全威胁和问题进行系统分类, 本文就网络安全中的可解释人工智能问题进行了回顾和研究, 探讨了解释人工智能目前的挑战和局限性，并提出了未来的研究方向。

Mar, 2023

本文提出了一个框架来统一解释人工智能（XAI）领域的挑战。尽管XAI方法可以为机器学习模型提供有用的输出，但研究人员和决策者需要注意这些方法的概念和技术限制，这些限制通常导致这些方法本身变成黑匣子。作者使用图像、文本和图形数据，研究了涉及突出显示、关注和图形解释器的三种XAI研究途径。尽管这些案例的背景和时间跨度各不相同，但是同样的持续困难仍然出现，这凸显了在此领域要应对XAI方法和应用任务之间兼容性挑战的概念突破的必要性。

Jul, 2023

通过提出27个开放问题分类为九类，本文不仅强调了XAI及其在现实世界中的应用的进展，也解决了XAI中的挑战，并强调了更广泛的视角和协作努力的需求，以推动XAI的发展和贡献于其持续成功。

Oct, 2023

本研究旨在解决可解释人工智能（XAI）在大型语言模型（LLMs）出现后面临的理解限制。文章提出了一种人本视角，推动了对可解释性的重新定义，并系统整合了现有的XAI研究。最重要的发现是，将注意力从算法本身转向人类用户的理解需求，能显著提升XAI的有效性和实际应用潜力。

Aug, 2024

本研究针对在大型语言模型（LLMs）时代，可解释人工智能（XAI）面临的理解困难提出了问题。文章提出应采取以人为中心的视角，超越传统“打开黑箱”的假设，通过三个维度综合XAI研究，揭示了新的可解释性路径。研究结果为XAI领域的未来方向提供了重要启示，强调了人类中心方法的重要性。

Aug, 2024