Mar, 2018

深度学习中的解释方法：用户、价值、关注点和挑战

PDF
TL;DR该文章主要探讨了解释性人工智能的问题，介绍了不同用户对于该领域的关注点，分析了欧盟的数据保护条例在深度神经网络中的适用情况，提出了现有解释方法的分类法，并探讨了如何解决用户对于数据集偏差导致的不公平及数据本身的不公的疑虑。
发现论文，激发创造
  • 灵活和上下文特定的 AI 可解释性：一种多学科方法

    该论文提出了一个框架，结合了技术、法律和经济因素，以定义在特定情境下的 “适当” 的解释水平，包括观众、操作环境、系统可能造成的伤害级别和法律 / 监管框架等主要情境因素，并提出了与此相关的社会效益。同时，论文还探讨了可用的技术工具，选择全局和局部解释输出的正确水平，并强调了解释只有在总社会效益大于成本时才具有社会价值。

    Mar, 2020

  • 深度神经网络的理解、可视化和解释调查

    该篇论文综述了深度神经网络在机器学习中的应用，针对一些需要保证安全性的决策（如控制系统和医疗应用），介绍了当前解释性人工智能（XAI）领域的研究，探究和解释 DNNs 内部和整体行为的方法。

    Feb, 2021

  • 评估用于深度学习在安全领域的解释方法

    本文建立了计算机安全领域中解释方法的标准，并研究了六种广泛应用的解释方法在恶意软件检测和漏洞发现中的效用，并得出了选择和应用计算机安全领域解释方法的一般建议。

    Jun, 2019

  • 机器学习模型的可解释性：从数据适应性到用户感知

    该研究旨在生成能满足数据和用户要求的本地解释，以便解释已部署的机器学习模型。通过增强一种广泛使用的基于规则的解释方法、引入一种评估线性解释逼近模型适用性的新方法，并对两种对照解释方法家族进行比较实验，从而为任何模型生成可靠且用户可理解的解释方法提供了一种途径。此外，该研究通过用户实验评估了三种解释方法和两种不同表示形式的影响，测量用户在理解和信任方面对模型交互的感知。通过提升解释生成的质量，该研究对增强已部署的人工智能系统的透明度、可信度和可用性具有潜在的影响。

    Feb, 2024

  • 深度视觉解释简介

    研究了深度学习方法面临的可解释性困境，提出了一种叫做 “深度视觉解释” 的框架，通过可视化技术来识别和暴露深度学习模型性能行为的假设，以提高模型的可解释性和可调试性，并展示了初步的可解释性应用实验结果。

    Nov, 2017

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 可解释的深度学习：初学者的指南

    本文提供了一份指南，让初学者可以更轻松地掌握可解释深度学习的基础方法和相关研究领域，介绍了三个定义了基础方法空间的简单维度、讨论了模型解释的评估以及可解释性在其他相关研究领域中的位置，并详细阐述了面向用户的解释设计和可解释深度学习可能的未来方向。

    Apr, 2020

  • 深度神经网络及其相关方法和应用综述

    本文概述了新兴的解释型 AI 领域，着重介绍了 “事后” 解释，从理论和比较评估的角度对解释算法进行测试并总结最佳应用实践，在代表性应用场景中成功使用可解释的 AI，并讨论其未来挑战和方向。

    Mar, 2020

  • 走向可解释人工智能方法基准测试

    本文以科学哲学理论作为分析视角，研究解释性方法在神经网络性能评估中的应用，并发现解释性方法的实用性依赖于人类领域知识和理解推理能力。本研究得出结论，基准测试解释性方法是迈向可信人工智能和机器学习的中心任务。

    Aug, 2022

  • 不要把机器学习算法按可解释性排序！以用户为中心的性能和可解释性研究

    通过两项用户实验，本研究旨在提供实证证据，以解决机器学习算法的性能和可解释性之间的权衡问题，并发现其在最终用户的感知中的权衡程度相对较低，其取决于数据复杂性等情况，并根据第二项实验的结果，也发现了可解释性人工智能的增强手段是提高解释性的一种途径，但解释的类型对最终用户的印象起着至关重要的作用。

    Jun, 2022