Jan, 2020

通过与其解释交互使深度神经网络得到正确的科学原因

PDF
TL;DR该研究介绍了 “explanatory interactive learning”（XIL）的新型学习模式，并通过植物表型研究任务展示了它的好处，结果表明 XIL 可以帮助避免机器学习中的 “Clever Hans” 行为，鼓励或不鼓励对基础模型的信任。
deep neural networksclever hansexplanatory interactive learningplant phenotypingmachine learning
发现论文，激发创造
  • 一个解释不能适用于 XIL

    该研究探讨通过多种解释方法进行同时模型修订，以应对机器学习模型存在的短路学习和假相似性等局限性，提出了解释式交互式机器学习框架（XIL），其需考虑多个解释方法来修订模型。

    Apr, 2023

  • 解决谜题：推导深度网络的最优解释

    通过整合不同的解释方法并利用非线性的 “解释优化器”，我们提出了一种新颖的框架，旨在增强深度神经网络的可解释性，并通过实验证实了其有效性。

    May, 2024

  • 反馈类型对解释性互动学习的影响

    本研究使用了 Explanatory Interactive Learning 方法中的 Gradient-weighted Class Activation Mapping 模型，比较了两种用户反馈类型对图像分类任务的影响，结果表明，指出并注释模型找到的虚假图像特征比告诉模型专注于有效图像特征的反馈会导致更好的分类和解释准确性。

    Sep, 2022

  • 深度神经网络的解释处理

    本文发现了一个问题：通过微调输入图像，我们可以演示图像识别的解释方式可以通过进化策略对其进行任意操作。通过我们的 Adversarial XAI 算法 AttaXAI，我们能够在不使用梯度或其他模型内部的情况下，成功地在黑盒设置下操作解释方法，从而实现了对图像做微小改变却使 XAI 方法输出特定解释的目标。

    Nov, 2022

  • 深度神经网络的理解、可视化和解释调查

    该篇论文综述了深度神经网络在机器学习中的应用，针对一些需要保证安全性的决策（如控制系统和医疗应用），介绍了当前解释性人工智能（XAI）领域的研究，探究和解释 DNNs 内部和整体行为的方法。

    Feb, 2021

  • 可解释方法中的婴儿大脑注意力方式

    该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

    Jan, 2023

  • 神经逻辑归纳学习：高效解释技能的学习

    本研究提出了一种名为 “神经逻辑归纳学习” 的可微分归纳逻辑编程框架，通过学习可以解释数据模式的一阶逻辑规则，与现有的方法相比，具有更高的效率和可扩展性。

    Oct, 2019

  • 利用可解释的人工智能来提高神经网络的性能

    本研究提出了一种重新训练流程，使用 SHapley Additive explanations 值，从 XAI 入手并利用最先进的技术来增加模型的透明度和可信度，在人数统计场景和图像分类数据集上进行了实验验证，结果表明使用 SHAP-based 重新训练方法比使用相等加权训练方法更有效，分别提高了 4% 和 3% 的准确率。

    Oct, 2022

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 结合概念分析和 ILP 的 DNN 表达式解释

    该论文研究了如何利用深度学习神经网络中学习到的内在特征，利用概念分析方法和归纳逻辑编程理论，构建基于符号的模型，实现黑盒机器学习的可解释性，体现其透明度和可靠性的要求。

    May, 2021