Jan, 2022

深度神经网络计算机视觉中的黑盒错误诊断：工具综述

PDF
TL;DR本论文调查了支持黑匣子性能诊断范式的工具，以深度神经网络为基础，探讨了模型行为和预测误差的诊断过程，并讨论了相关研究方向和除 CV 外的诊断工具的简要概述。
deep neural networksmodel interpretationblack-box error diagnosiscomputer visionperformance assessment
发现论文，激发创造
  • 计算机视觉黑匣子深度神经网络解释器分析：综述

    探讨各种用于计算机视觉任务的深度神经网络的解释器和解释系统，比较了几篇有关可解释性的调查论文，并归纳出了进一步的研究方向。

    Nov, 2019

  • 计算机视觉模型的黑盒对抗攻击综述

    该论文介绍了对各种黑盒对抗攻击和防御技术的全面比较研究，旨在提高模型的鲁棒性。

    Dec, 2019

  • DOCTOR: 检测分类错误的简易方法

    该研究提出了一种名为 DOCTOR 的简单方法，用于确定是否应信任 DNN 分类器的预测结果，以便能够接受或拒绝该结果。研究表明，DOCTOR 在各种著名图像和情感分析数据集上均优于现有方法。

    Jun, 2021

  • 逆向工程黑盒神经网络

    研究表明，通过一系列查询可以暴露神经网络的架构、优化程序或训练数据等属性，因此黑匣子神经网络更容易受到各种攻击，但该技术也可以用于更好地保护个人隐私。

    Nov, 2017

  • 通过有意义的扰动提供黑匣子的可解释性解释

    该研究提出了一种适用于任何黑盒机器学习算法的通用解释框架，并将其特化以找到对分类器决策最负责的图像部分。该方法是模型无关且可测试的，因为它基于明确且可解释的图像扰动。

    Apr, 2017

  • 利用模型可解释性和稳定性提高模型的鲁棒性

    该研究探讨深度神经网络的可解释性，提出了一种基于 conductance 度量法将 DNN 的预测得分分解为隐藏单元贡献和通过二元分类器自动鉴别 DNN 错误预测的方法，该方法能够提高模型的鲁棒性。同时，加入 Wang 等人的思路，可以进一步提高错误预测的检测效果。

    Oct, 2019

  • 深度神经网络的理解、可视化和解释调查

    该篇论文综述了深度神经网络在机器学习中的应用，针对一些需要保证安全性的决策（如控制系统和医疗应用），介绍了当前解释性人工智能（XAI）领域的研究，探究和解释 DNNs 内部和整体行为的方法。

    Feb, 2021

  • 基于视觉的自主系统的闭环分析：以案例为例

    本文应用正式的概率分析技术对一种通过感知深度神经网络（DNN）引导飞机滑行的实验自主系统进行了案例研究，通过使用代表性图像数据集计算 DNN 的混淆矩阵来替换摄像机和网络，构建紧凑的概率抽象，以解决感知 DNN、传感器和环境条件的复杂性所带来的挑战，并展示了如何利用本地、DNN 特定的分析作为运行时保护，以提高整个系统的安全性。

    Feb, 2023

  • 计算机视觉中对抗攻击综述

    深度神经网络被广泛用于各种下游任务，尤其是自动驾驶等安全关键场景，但深度网络常常受到对抗样本的威胁。对抗攻击可以分为白盒攻击和黑盒攻击，前者攻击者知道模型的参数和梯度，后者攻击者只能获取模型的输入和输出。攻击者的目的可以分为有目标攻击和非有目标攻击，黑盒设置是我们实践中会遇到的情况。

    Aug, 2023

  • 从黑箱深度神经网络中提取解释、证明和不确定性

    我们提出了一种新颖的贝叶斯方法，用于从深度神经网络中提取解释、证明和不确定性估计，无需重新训练，适用于任何黑盒深度神经网络，并能显著提高解释性和可靠性。

    Mar, 2024