有关解释人工智能的最佳实践和挑战的调查表明,现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。
May, 2018
本文综述了可解释人工智能(XAI)领域内的现有文献,并对未来的研究前景进行了探讨。我们提出了一种新的可解释性定义,针对各种机器学习模型提出了分类。同时,我们讨论了XAI面临的一系列挑战,如数据融合和解释性之间的折衷等。最终,我们的观点指向了“负责任人工智能”的概念,在其中强调了AI方法在实际组织中的实施中必须保证公平性、模型可解释性和可追溯性。
Oct, 2019
这篇论文从四个主要聚类方向:综述文章、理论和概念、方法及其评估,总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。
May, 2020
文章讨论了机器学习模型解释性和可解释性的多方面问题,并提出了12个概念性属性,如紧凑性和正确性来全面评估解释的质量。文章还提供了定量XAI评估方法的广泛概述,以及提供了创新的库和方法帮助研究人员和从业者彻底验证、基准测试和比较新的和现有的XAI方法。
Jan, 2022
本文介绍了交互式线性插值方法及其在分类(企鹅物种,巧克力类型)和数量(足球薪资,房价)输出方面的应用,并试图通过提供局部解释来解释非线性模型的预测性能和线性特征的重要性。
May, 2022
通过形式化说明解释是什么,提出一些公理和定义来澄清可解释的人工智能的数学角度。最后,我们提出了一个Greybox XAI框架,该框架通过使用符号知识库将DNN和透明模型组成。我们从数据集中提取知识库,并使用它来训练透明模型(即逻辑回归)。然后,我们在RGB图像上训练编码器-解码器架构,以产生类似于透明模型使用的知识库的输出。一旦两个模型独立地训练好后,它们就在组成的形式上用于形成可以解释的预测模型。我们展示了这种新的架构在几个数据集中是准确的和可以解释的。
Sep, 2022
本研究在分析各种流行的可解释人工智能(XAI)方法在高斯条件下的分类问题上的表现后发现,大多数研究方法在存在相关噪声的情况下会将与预测目标无统计关系的抑制特征归因于特征重要性,从而证明了XAI方法存在的局限性。
Jun, 2023
该论文呼吁从事人类中心的可解释人工智能研究,探究人类对于深度学习系统的理解和信任的关键作用,并提出设计可解释的神经网络体系结构的方案,以实现实时、准确、可操作、易于解释和一致的需求。
Jul, 2023
最近的实证研究调查了可解释人工智能对人工智能决策的影响,识别了挑战并提出未来的研究方向。
Dec, 2023
对基于梯度的解释方法进行了系统的探索和分类,并介绍了技术细节的实质和算法的演化,同时提出了使用人工和定量评估来衡量算法性能的挑战,为研究人员提供了对最新进展和相关缺点的了解,并激发了未来解决这些问题的兴趣。
Mar, 2024