Dec, 2022

寻找类别编码模式的 AI 模型利用率测量

PDF
TL;DR研究了利用神经网络对交通标志进行分类的应用场景中人工智能模型的可解释性问题，提出了机器学习模型的利用率量化方法，并将其用于污染和清洁的人工智能模型中进行分析，讨论了木马注入和检测的影响。
utilization measurementstrained artificial intelligence modelstraffic sign classificationcomputation graphstrojan detection
发现论文，激发创造
  • 聚合类别激活图的可视化分析全局类特征的方法

    使用 Class Activation Maps（CAMs）方法对深度学习模型进行全局解释，通过方块表示每个特征的分类影响，大小描述了不同样本间影响的变化，提供交互式直方图进行进一步分析筛选，从而在高维数据中检测重要特征并根据全局解释进行 AI 模型调整。

    Jul, 2023

  • 深度学习的拓扑可解释性

    本研究介绍了一种利用拓扑和几何数据分析技术来推断临床和非临床文本的两个深度学习分类模型中的突出特征的方法，并通过概率度量距离获取诊断模型决策信息的稳定性来证明这一方法的可行性。

    May, 2023

  • 扩展基于 CAM 的遥感图像分割的可解释人工智能方法

    通过适应最近的 XAI 分类算法并将它们用于多类别图像分割，本文着重于对高分辨率卫星图像中的建筑物分割的研究，引入了一种基于 “熵” 来衡量模型不确定性的新的 XAI 评估方法和指标，以此来提供透明度和可解释性，为图像分割领域的 XAI 研究和遥感应用铺平道路。

    Oct, 2023

  • 可解释的人工智能：理解、可视化和解释深度学习模型

    基于深度学习的解释性可视化方法在人工智能领域日益被重视，本文总结了目前解释深度学习模型的最新发展，并提出两种解释预测的方法，并将这些方法用于三个分类任务中进行评估。

    Aug, 2017

  • 人类中心的可解释人工智能方法评估

    人工智能的解释方法对理解深度学习中的决策过程具有重要意义，通过研究对比了三种解释方法的可解释性，结果显示这些方法虽然强调的区域各不相同，但都能提供人类几乎相等的深度理解，进一步增强了这些方法在提升人工智能透明度方面的价值。

    Oct, 2023

  • 利用解释桥接人工智能和人类

    该研究论文提出了解释性机器学习方法来提高人类决策水平和人工智能协助决策效能之间的差距。

    Mar, 2020

  • 语义匹配：针对医疗 XAI 中的特征归因方法进行调试

    本文探讨了 Explainable AI 在医疗领域应用的可靠性问题，提出了对于像电子病历这样结构化数据的场景，特征归因方法仍能够发挥有意义且有用的作用。同时，文章对于通过语义匹配来评估特征重要性的方法提供了一个简单的流程。

    Jan, 2023

  • 机器学习中为什么需要解释性？分布式检测和数据融合理论的解答

    本文通过使用分布式检测理论对两节点串联数据融合系统的性能进行描述，将可解释的学习模型建模为多级量化器，并证明在本文提出的抽象条件下，具有可解释分类器的人类和黑匣子分类器组成的系统性能优于只有黑匣子分类器的系统。

    Jun, 2018

  • 基于可解释人工智能方法应用于自动化设计评估中的特征可视化

    这篇研究论文中介绍了如何利用深度学习系统及解释性人工智能方法，结合 NeuroCAD 环境实现对 CAD 模型的评估和识别，旨在开启黑匣子，并找出影响网络决策的几何特征，帮助设计师对装配工艺进行优化。

    Jan, 2022

  • 特征 CAM：解释性图像分类中的人工智能

    我们的研究比较了应用于图像分类的激活方法（ABM）中最先进的方法，并通过引入新技术 Feature CAM，得到了在可解释性方面比现有技术提高 3-4 倍的结果。

    Mar, 2024