Jan, 2019

通过架构约束增强神经网络的可解释性

PDF
TL;DR通过添加稀疏加性子网络、投影追踪以及平滑函数逼近等结构约束，本文提出了一种可解释的神经网络模型，具有良好的预测性能与模型解释性，同时导出了所提模型的必要和充分可识别条件，采用一种基于 backpropagation 算法计算导数和 Cayley 变换维护投影正交性的改进型 mini-batch 梯度下降方法同时估计多个参数，并在六个不同场景下通过与其他多种方法的比较显示所提出的 xNN 模型保持了追求高预测准确率的灵活性的同时实现了改善的可解释性，并展示了一个真实数据应用案例。
发现论文，激发创造
  • 基于加法指数模型的可解释神经网络

    本文介绍了可解释化神经网络 (Explainable Neural Network，xNN)，它是一种结构化的神经网络，设计特别用于学习可解释的特征。与全连接神经网络不同，xNN 工程化的特征可以相对简单地从网络中提取出来并展示。同时，在适当的正则化下，xNN 提供了关于特征和输出之间关系的精炼解释。我们在模拟实例上展示了这种可解释特征工程化的性质。

    Jun, 2018

  • 利用归因使神经网络可解释化：应用于隐式信号预测

    本文提出了一种新型的可解释深度神经网络的解释，通过使用掩蔽权重，可以将隐藏特征分解成几个输入限制的子网络，并训练成专家混合的增强模型，为复杂的机器学习模型提供说明，提高其效率，并实现了对合理解释进行推荐任务。

    Aug, 2020

  • 约束神经网络用于解释式启发式创建优化计算代数系统

    我们提出了一种利用机器学习技术进行符号计算研究的新方法。我们解释了如何将人类设计的在圆柱代数分解中选择变量顺序的启发式方法表示为受限神经网络。这使我们能够使用机器学习方法进一步优化这个启发式方法，得到与原始人类设计相似复杂度的新网络和新启发式。我们将其作为一种事前可解释性方法用于计算机代数开发。

    Apr, 2024

  • 物理增强神经网络的极度稀疏化方法用于机械学中可解释的模型发现

    利用神经网络的数据驱动本构模型，在加入物理和机制约束的同时，通过训练及 $l^0$ 正则化的方法，实现了可解释性和可信赖性的简约化表征，适用于可压缩与不可压缩高弹性、屈服函数和强化模型的合成和实验数据。

    Oct, 2023

  • 自解释神经网络的稳健可解释性研究

    提出了自说明模型的三个特点 —— 显式性，忠诚度和稳定性，旨在落实模型可解释性并实现复杂模型的解释性，通过特定模型的正则化实现忠诚度和稳定性的要求，实验结果表明，该框架为解决模型的复杂性和可解释性困境提供了一个有前途的方向。

    Jun, 2018

  • 可解释的深度神经网络（xDNN）

    本文提出了一种名为 xDNN 的新型深度学习架构，该架构使用原型来优化计算效率，达到超越传统方法的目的，并在基准数据集上进行了测试，取得了世界记录。

    Dec, 2019

  • 基于可信区间预测的自解释神经网络不确定性建模

    通过设计一种新颖的不确定性建模框架，本研究旨在解决深度神经网络在解释性方面的挑战，实现分布无关的不确定性建模，并在生成的解释层中分配与最终预测分配给予的信心值间建立联系，同时在高级解释基础上产生高效和有效的预测集。理论分析和大量的实验评估证明了该不确定性框架的有效性。

    Jan, 2024

  • 语义和数量化解释神经网络

    本篇论文提出了一种从卷积神经网络中提取和解释知识的方法，并通过可解释的加性模型量化地解释了神经网络预测的理由，解决了可解释性问题和 Typical Bias-Interpreting 问题，并通过实验证明了该方法的有效性。

    Dec, 2018

  • 从聚类到聚类解释的神经网络方法

    提出基于神经网络和聚类模型的可解释 AI 框架，能够对数据的簇分配进行高效和可靠的解释，并且从分析数据和表示中提取新的见解。

    Jun, 2019

  • 胶囊网络的改进可解释性：一致性相关路径

    本文介绍了 Capsule 网络的架构和行为，并说明了该网络的潜在可解释性，通过在不同层中包含胶囊代替 CNN 的卷积层，我们展示了 Deep learning 结构转为透明网络的可能性。

    Feb, 2018