May, 2023

可解释人工智能的硬件加速

PDF
TL;DR本研究提出一种简单且高效的框架，通过存在的硬件加速器来加速各种 XAI 算法，并探索了 Tensor Processing Unit（TPU）加速 XAI 的有效性，利用卷积和傅里叶变换之间的协同关系，充分利用 TPU 在加速矩阵计算方面的本能能力，这种方法可以带来实时结果解释。与现有加速技术相比，基于 TPU 的提议方法可以提供对结果解释时间的巨大改善（平均 39 倍）以及能源效率（平均 69 倍）方面的提升。
machine learningexplainable aihardware accelerationtensor processing unitreal-time outcome interpretation
发现论文，激发创造
  • 改进分类器性能的通用框架：基于可解释人工智能方法

    该论文提出了一个使用可解释人工智能技术方法来自动提升预训练深度学习分类器性能的通用框架，避免了重新训练复杂模型所带来的计算开销，通过两种不同的学习策略，自动编码器和编码器 - 解码器，来实现这一架构。

    Mar, 2024

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 解决谜题：推导深度网络的最优解释

    通过整合不同的解释方法并利用非线性的 “解释优化器”，我们提出了一种新颖的框架，旨在增强深度神经网络的可解释性，并通过实验证实了其有效性。

    May, 2024

  • 高效 XAI 技术：分类调查

    本篇论文为了解决传统 XAI 算法的高计算复杂度问题，提出了一篇关于高效 XAI 的综述研究，对现有的技术分类为高效的非分摊和高效的分摊方法，并从培训阶段，部署阶段和使用场景等角度分析了有效 XAI 流程的限制和挑战。最后，总结了将 XAI 加速方法部署到真实世界场景所面临的挑战，克服了真实世界场景中忠实度和效率之间的权衡，选择不同的加速方法。

    Feb, 2023

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • 回顾解释型人工智能的需求 (xAI)

    本文对可解释性人工智能的相关文献进行了系统回顾，发现了四个主题性讨论，旨在推动可解释性人工智能领域的研究进一步深入发展。

    Dec, 2020

  • 可解释人工智能：系统综述

    这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

    May, 2020

  • XAI-TRIS: 量化机器学习解释能力的非线性基准测试

    本文探讨不同非线性分类场景下，解释性人工智能模型的表现，并通过一系列实验测试发现，当前流行的 XAI 方法往往无法显著提高准确性基线和边缘检测方法，甚至在不同模型结构下产生非常不同的解释，存在误解的风险。

    Jun, 2023

  • 关于时间序列 XAI 方法的严格评估

    本文介绍了将之前主要用于图像和文本领域的可解释人工智能（XAI）方法应用于时间序列上的新方法。作者提出了一种方法来测试和评估各种对于时间序列的 XAI 方法，并介绍了新的验证技术用以融入时间维度。作者进一步进行了初步实验来评估所选 XAI 方法的解释质量，并证明了在初步实验中，SHAP 方法的工作表现很强，但是像 DeepLIFT，LRP 和 Saliency Maps 等方法却更适用于特定的架构。

    Sep, 2019

  • 利用可解释的人工智能来提高神经网络的性能

    本研究提出了一种重新训练流程，使用 SHapley Additive explanations 值，从 XAI 入手并利用最先进的技术来增加模型的透明度和可信度，在人数统计场景和图像分类数据集上进行了实验验证，结果表明使用 SHAP-based 重新训练方法比使用相等加权训练方法更有效，分别提高了 4% 和 3% 的准确率。

    Oct, 2022