KDDFeb, 2018

分段线性神经网络的精确一致解释：闭合形式解决方案

PDF
TL;DR本文提出了一个名为 OpenBox 的方法，用于计算分段线性神经网络（PLNN）的确切且一致的解释，即将 PLNN 转换为一组数学上等价的线性分类器，然后通过支配其预测的特征来解释每个线性分类器。我们进一步将 OpenBox 应用于展示非负和稀疏约束对提高 PLNN 的可解释性的有效性，丰富的合成和实际数据集实验清楚地证明了我们解释的准确性和一致性。
neural networksinterpretationplnnexactnessconsistency
发现论文，激发创造
  • 分段线性神经网络验证的统一视角

    本文介绍了一种统一的深度学习模型形式验证的框架，利用分段线性结构和形式方法，结合现有方法的优势以实现两个数量级的加速。并提出了一组新的基准数据集，通过实验比较现有算法并确定影响验证问题难度的因素。

    Nov, 2017

  • 低精度多项式逼近的神经网络：提高准确性的新见解与技术

    通过使用多项式逼近替换神经网络中的非多项式函数，并结合高精确逼近，本论文提出的多项式逼近神经网络（PANN）在实现隐私保护模型推理时与底层骨干模型具有类似的推理准确性。此外，通过对 PANN 的独立性进行调查，论文提出了提高 PANN 推理准确度的解决方案，并通过实验证明了解决方案的有效性。

    Feb, 2024

  • 设计可解释性：包装盒将神经性能与准确解释相结合

    用经典的，可解释的模型来生成对模型预测的基于实例的准确解释以保持预测性能的通用方法

    Nov, 2023

  • 弱正交约束下的多项式增强神经网络 (PANNs) 在功能和 PDE 逼近中的应用

    我们提出了多项式增强神经网络（PANNs），一种结合了深度神经网络（DNNs）和多项式逼近的新型机器学习架构。通过这些实验，我们证明了 PANNs 在回归和偏微分方程的数值解法上都比 DNNs 具有更好的逼近性能，同时在回归具有有限平滑性的函数时，也比多项式和基于 DNN 的回归方法具有更高的准确性。

    Jun, 2024

  • LioNets: 通过次最终层解码对神经网络进行本地解释

    通过考虑神经网络的架构，在局部范围内主动构建实例邻域的过程中，提供用于神经网络决策的解释的方法。

    Jun, 2019

  • 使用符号回归梯度解释神经网络分类器的封闭形式

    基于统一框架，我提出了一种解释神经网络分类器的方法，该方法旨在自动化科学发现，通过将训练好的神经网络嵌入到一组基于相同数量的分类函数的等价类中，并通过搜索符号回归的搜索空间定义的人类可读方程与该等价类之间的交集来解释神经网络。

    Jan, 2024

  • 分段线性前馈神经网络的形式化验证

    本文提出了一种针对具备分段线性激活函数的前向神经网络进行验证的方法，并使用全局线性逼近对 SMT 求解器和 ILP 求解器进行推理，通过专门设计的验证算法利用推理出的相位信息对网络进行冲突检测和安全节点约束，并在碰撞避免和手写数字识别案例研究中进行了评价。

    May, 2017

  • 黑匣子 NLP 模型的解释：一项调查

    本文提出了一种基于中心极限定理的假设检验框架以确定所需扰动点的数量，从而保障解释稳定性的方法 S-LIME，以解决黑箱模型的可解释性问题。对模拟数据集和实际数据集进行的实验表明了该方法的有效性。

    Mar, 2022

  • 将神经网络验证扩展到更大的分段线性激活函数家族

    本文扩展了一种现有的神经网络验证技术，以支持更广泛的分段线性激活函数类别，并将原始的算法扩展以提供对以起始集表示的有界输入集的精确结果或上估计结果，并允许无界输入集。我们实施了我们的算法，并在一些案例研究中展示了它们的有效性。

    Nov, 2023

  • 流式弱次模性：即时解释神经网络

    本文提出了一种基于组合最大化问题的高效流式解释黑匣子分类器的算法，并扩展了 Badanidiyuru 等人的思路，针对基于随机流的子模弱目标函数提供了一个常数近似保证，并证明了在最坏情况下不存在这样的算法，我们的算法比 Ribeiro 等人的 LIME 框架快 $10$ 倍。

    Mar, 2017