Jan, 2024

基于可信区间预测的自解释神经网络不确定性建模

PDF
TL;DR通过设计一种新颖的不确定性建模框架，本研究旨在解决深度神经网络在解释性方面的挑战，实现分布无关的不确定性建模，并在生成的解释层中分配与最终预测分配给予的信心值间建立联系，同时在高级解释基础上产生高效和有效的预测集。理论分析和大量的实验评估证明了该不确定性框架的有效性。
deep neural networksexplanation methodsself-explaining neural networksuncertainty quantificationuncertainty modeling framework
发现论文，激发创造
  • 自解释神经网络的稳健可解释性研究

    提出了自说明模型的三个特点 —— 显式性，忠诚度和稳定性，旨在落实模型可解释性并实现复杂模型的解释性，通过特定模型的正则化实现忠诚度和稳定性的要求，实验结果表明，该框架为解决模型的复杂性和可解释性困境提供了一个有前途的方向。

    Jun, 2018

  • 概率自解释神经网络中的不确定性感知解释

    通过概率重构，Prob-PSENN 提供了更灵活的原型学习框架，能够捕捉模型的解释不确定性，提供比非概率模型更有意义和可靠的解释，从而增强模型的可解释性和可靠性。

    Mar, 2024

  • VOICE：用于量化神经网络解释不确定性的诱导式对比解释的方差

    该论文可视化和量化基于梯度的神经网络后续可视化解释的预测不确定性，指出不确定性降低了解释的可信度，提出了一种插件方法以可视化和量化任何基于梯度的解释技术剩余的预测不确定性，并通过两个数据集、四种解释技术和六种神经网络架构对提出的观察进行了支持。

    Jun, 2024

  • 深度图像合成神经网络预测不确定性的视觉分析

    利用不同方法高效估计深度神经网络的预测不确定性和敏感性，并将其互动比较和对比，以应对可靠的不确定性感知模型在深度图像合成任务中产生信息丰富且质量多样的插图，进一步提高深度可视化模型的稳健性和可解释性，使其在以视觉分析为基础的各个科学领域得以实际应用和方便使用。

    May, 2024

  • 不确定性解释性：神经网络的可信决策

    机器学习模型中的不确定性是一个关键特征，尤其在神经网络中更为重要，因其倾向于过于自信。本研究提出了一个通用的不确定性框架，将不确定性估计定位为可解释的人工智能技术，并引入分类与拒绝机制以减少错误分类，同时应用于教育数据挖掘中的神经网络案例研究，提高模型在操作研究中决策任务中的可信度与行动性。

    Mar, 2024

  • 从黑箱深度神经网络中提取解释、证明和不确定性

    我们提出了一种新颖的贝叶斯方法，用于从深度神经网络中提取解释、证明和不确定性估计，无需重新训练，适用于任何黑盒深度神经网络，并能显著提高解释性和可靠性。

    Mar, 2024

  • 我能信任你多少？-- 量化解释神经网络的不确定性

    提出了一种新的框架，它可以将任意的深度学习神经网络解释方法转换为基于贝叶斯神经网络的解释方法，并内置建模不确定性的方式来量化解释的不确定性，从而确立与模型解释相关的不确定性，并在各种定量和定性实验中证明了该方法的有效性和实用性。

    Jun, 2020

  • 利用证据理论的深度学习进行分类不确定性量化

    通过在类概率上使用狄利克雷分布对主观逻辑进行建模并使用确定性神经网络从数据学习收集导致预测的证据的功能，我们提出一种与贝叶斯神经网络正交的方法，该方法可以直接推断出预测的不确定性。我们的方法在检测超出分布的查询和对抗性扰动方面取得了空前的成功。

    Jun, 2018

  • 神经网络中基于梯度的解释的不确定性量化

    本文提出一个流程，通过结合不确定性估计方法和解释方法来确定神经网络解释的不确定性，使用该流程对 CIFAR-10、FER + 和加利福尼亚房屋数据集生成解释分布，并通过计算这些分布的变异系数来评估解释的置信度，结果表明使用引导反向传播生成的解释具有较低的不确定性，并计算修改后的像素插入 / 删除指标来评估生成解释的质量。

    Mar, 2024

  • CONFINE：可解释神经网络的拟合预测

    通过引入适应性神经网络的可证估计预测模型，CONFINE 可以增强模型透明度和可靠性，并提供基于样例的解释和置信度评估，从而提高模型准确性。

    Jun, 2024