Oct, 2023

深度学习用于可解释的自然语言处理

PDF
TL;DR利用原型学习方法和自然语言处理，我们提出了一种学习加权相似度度量的方法，增强了相似度计算，并提出了一个可提取预测相关单词的解释机制来改进预测性能和解释质量。
prototype learningmachine learninginterpretable decisionsnatural language processingexplanation mechanism
发现论文，激发创造
  • 深度学习通过原型进行基于案例的推理：一种解释其预测的神经网络

    本文中，我们提出一种新的深度学习网络架构，其中包含自编码器和原型层，这种网络可以自然地解释每个预测的原因，并且能够进行分类。

    Oct, 2017

  • 可解释图像识别的原型解释

    通过量化影响色调、形状、纹理、对比度和饱和度的视觉特征，提高基于原型的图像识别的可解释性。

    Nov, 2020

  • 潜在空间原型可解释性在深度神经网络中的局限性

    本文指出了原型学习中存在的一个重要缺陷：潜在空间中的相似性与输入空间中的相似性之间存在语义差距，这可能会损害可解释性。通过设计两个实验，我们在 ProtoPNet 上阐明了这个问题，并表明从业人员在实践中部署基于原型模型时应该考虑到这个缺陷。

    May, 2021

  • 这像那样：用深度学习进行可解释的图像识别

    介绍了 ProtoPNet，一种深度神经网络架构，该模型通过识别图像的原型部分并将原型部分的证据结合起来，类似于鸟类学家、医生和其他人解决图像分类任务的方式，提供了一定程度的可解释性，并在 CUB-200-2011 数据集和 Stanford Cars 数据集上实现了可比较的准确性。

    Jun, 2018

  • 自然学习

    自然学习（NL）算法通过解析性和可解释性的机器学习带到了极限水平。通过提取很少的特征和语义原型，NL 在多个领域表现出了令人印象深刻的结果，包括对癌症和分类数据集的高准确率和高性能与其他方法相媲美。

    Apr, 2024

  • Proto-lm: 基于原型网络的大型语言模型内置可解释性框架

    利用新型方法 proto-lm，在维持性能竞争力的同时，使大语言模型具备了解释性，为实现可解释性的模型铺平了道路。

    Nov, 2023

  • 借助原型实现可解释和可控的序列学习

    提出了 ProSeNet，该方法利用几个基准示例作为原型，从案例推理中获取自然解释，可以提供高准确度和可解释性，可用于各种应用领域中的序列建模和预测诊断。

    Jul, 2019

  • 解释型自然语言处理的本地解释概览

    研究探讨了提高深度神经网络在自然语言处理（NLP）任务中的可解释性的各种方法，包括机器翻译和情感分析，并对术语 “可解释性” 及其各个方面进行了全面讨论。这项工作列举了与局部解释相关的各种方法，并将其分为三类：1）通过相关的输入特征解释模型的预测；2）通过自然语言解释进行解释；3）探查模型和单词表示的隐藏状态。

    Mar, 2021

  • 通过原型概念解释验证深度模型决策的 (非) 常规理解

    本文提出了一个基于概念的后续解释 AI 框架，通过原型模型不仅传达了每个实例的决策策略 (局部)，而且还传达了整体的类别决策策略 (全局)，从而降低了对人类长期评估的依赖，并使模型验证成为一个直观且可解释的工具。

    Nov, 2023

  • 可解释的医学图像分类利用原型学习和特权信息

    探索了一种名为 Proto-Caps 的创新解决方案，它能够利用额外的训练过程中可用的信息来创建一个易理解且功能强大的模型，通过在 LIDC-IDRI 数据集上的评估，该方法结合了更强的可解释性和先进的预测性能，相较于可解释的基线模型，在预测恶性程度（93.0%）和肺结节的平均特征方面，我们的方法提高了超过 6% 的准确率，并同时提供了基于案例的推理和可视化验证放射学定义的特征。

    Oct, 2023