Aug, 2022

走向可解释人工智能方法基准测试

PDF
TL;DR本文以科学哲学理论作为分析视角，研究解释性方法在神经网络性能评估中的应用，并发现解释性方法的实用性依赖于人类领域知识和理解推理能力。本研究得出结论，基准测试解释性方法是迈向可信人工智能和机器学习的中心任务。
neural networksexplainabilityphilosophy of scienceperformancetrustworthy ai
发现论文，激发创造
  • 使人工智能更易解释的不同方法学综述

    人们对越来越多的决策由机器完成的需求增加，但黑盒模型的决策推理令人不解，因此需要关注决策推理的清晰度与可解释性，以及如何扩展到反事实思考。

    Nov, 2023

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 面向可解释的人工智能

    本文介绍了机器学习和深度学习算法在科学和工业领域中的应用及其不透明性问题，提出了解释性学习算法和可视化方法的重要性。

    Sep, 2019

  • 关于 AI 解决方案的可解释性：跨领域调查

    该研究是对人工智能模型解释的广泛调查，发现解释决策和原因的不同方法和原因的异质性导致了个体解释框架。

    Oct, 2022

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 深度神经网络的理解、可视化和解释调查

    该篇论文综述了深度神经网络在机器学习中的应用，针对一些需要保证安全性的决策（如控制系统和医疗应用），介绍了当前解释性人工智能（XAI）领域的研究，探究和解释 DNNs 内部和整体行为的方法。

    Feb, 2021

  • 可解释机器学习的原则和实践

    这篇报告对数据驱动方法 - 特别是机器学习和模式识别模型进行了综述和总结，以便于业界从业者和数据科学家更好地理解 “可解释的人工智能” 的领域并应用正确的工具。

    Sep, 2020

  • 可解释的人工智能：理解、可视化和解释深度学习模型

    基于深度学习的解释性可视化方法在人工智能领域日益被重视，本文总结了目前解释深度学习模型的最新发展，并提出两种解释预测的方法，并将这些方法用于三个分类任务中进行评估。

    Aug, 2017

  • 具备解释识别结果能力的人工智能架构

    机器学习结果的可解释性需要建立信心；对权重进行解释的方法不足以用简单的术语解释决策；可解释的属性系统提供了术语解释，但表现不如不可解释的机器学习方法；本研究侧重于解释性指标的重要性，提出了两种能够提高性能的方法：第一种方法引入可解释性与不可解释性流程相结合，并提出了一个刻画决策可解释性的指标；第二种方法比较了用于估计系统中神经网络效果的经典指标，并提出了一种新的效果最佳的指标；本文展示了新方法的结果和手写数据集的示例。

    Jun, 2024