Mar, 2017

合理的权利：通过限制模型解释进行可微分模型训练

PDF
TL;DR该论文提出了一种基于梯度的快速、高效的方法，用于解释和规范神经网络模型，通过检查和有选择地惩罚其输入梯度，以提供法线，进而改善模型的透明度和可靠性，以避免在训练和测试条件不同时出现错误原因，其效果在多个数据集上验证成功。
neural networksexplainabilityregularizationgradient-basedgeneralization
发现论文，激发创造
  • 利用解释指导模型

    本研究探讨了模型指导方法在 PASCAL VOC 2007 和 MS COCO 2014 数据集上的有效性以及提出了一种新的能量损失方法，证实了模型指导方法可以通过正则化模型的解释，集中于正确的特征，提高模型性能。

    Mar, 2023

  • 具有差分隐私的模型解释

    使用差分隐私机制构建基于特征的模型解释，降低解释数据隐私泄露，评估差分隐私模型及其隐私机制对模型解释质量的影响。

    Jun, 2020

  • 深度神经网络的鲁棒解释

    本研究提出了一种理论框架和三种不同技术来提高对解释的稳健性。通过训练方法，激活函数的平滑以及网络 Hessian 的最小化，实现了对提高模型的抗干扰能力。实验结果证实了这些方法的有效性。

    Dec, 2020

  • 为什么我应该信任你？": 解释任何分类器的预测

    本文提出了一种可解释性的机器学习算法解释技术 ——LIME，基于该技术可以在一个可解释且可靠的小规模模型内对任何分类器的预测进行解释，从而提高了可信度和可理解性，实现了对于信任度的估计及诸多信任场景的适用性。

    Feb, 2016

  • 可解释方法中的婴儿大脑注意力方式

    该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

    Jan, 2023

  • 基于熵的神经网络逻辑解释

    该论文提出了一种基于熵的标准及一种新的端到端可微分的方法，用于从概念神经网络中提取逻辑解释，该方法使用一阶逻辑的形式化定义，并考虑了四个案例研究来证明这种熵基准能够从临床数据到计算机视觉中，在安全关键领域中提取简洁的逻辑解释。

    Jun, 2021

  • 远程监督下非单调推理的理性化学习

    研究如何使用先前经过训练的语言模型、神经知识模型和相关任务的远程监督等，通过训练生成解释原因的生成模型来推断自然语言解释。然而，结果表明，由于神经语言模型的基本限制，该模型生成的解释仅限于具有普遍性的陈述，而在进行推理的同时预测更新或其类型和生成理由是更具挑战性的，这是未来的重要方向。

    Dec, 2020

  • 通过约束输入渐变来提高深度神经网络的对抗鲁棒性和可解释性

    本研究评估了不同防御机制对神经网络的有效性，发现使用输入梯度规则化训练的神经网络具有抵御小幅度扰动的鲁棒性，并且可以提高预测的可解释性。同时，对这种神经网络产生的误分类可以解释，并进一步讨论了深度神经网络中解释性和鲁棒性之间的关系。

    Nov, 2017

  • 建立可靠的神经网络解释：模型解释的局部平滑视角

    本研究提出了一种基于光滑景观的预测且稳定的神经网络模型解释方法，通过批量学习噪声复制品并采用 L1 规范化方法对显著性地图进行训练，使模型学习得到局部光滑模型解释，有效地找出与预测结果相关的输入要素并且在对抗样本测试中表现优异。

    Mar, 2021

  • 正则化黑盒模型以提高可解释性 （HILL 2019 版本）

    本文提出了一种新的方法，即在训练时直接对黑盒模型进行可解释性正则化，以改善解释效果，提高模型的可解释性，并保持一定的准确性。

    May, 2019