AAAIAug, 2023

使用反事实法评估深度神经网络的系统性弱点

PDF
TL;DR通过反事实解释的方法，提出一种有效且计算成本低的算法，以验证现有子集的语义归因，即检查已识别的属性是否可能导致性能下降。在自动驾驶领域的一个示例中展示了该方法，通过高度注释的模拟数据，表明在语义分割模型中存在不同的行人资源的性能差异，但只有在某些情况下，资源类型本身才是性能降低的原因。
发现论文，激发创造
  • 攻击何时何地？一种基于因果关系的生成反事实对抗样本的方法

    通过考虑因果生成过程，我们通过因果关系解释深度神经网络脆弱性的源头，给出了理论结果来回答攻击的目标所在。为了更真实地生成对抗性示例，我们提出了 CADE 框架，可以生成反事实的对抗性示例，并在白盒、基于迁移的以及随机干预攻击等各种攻击场景中表现出竞争力。

    Dec, 2023

  • 分类模型中预测不确定性的归因

    本文提出一种新的框架，将路径积分、反事实解释和生成模型相结合，以获得包含少量可观察到的人工构件或噪声的归因，并通过对各种复杂度的数据集的流行基准测试进行定量评估，证明这一方法优于现有的替代方法。

    Jul, 2021

  • 路径特定的反事实公平性

    在复杂情景中，针对敏感因素同时影响公平和不公平决策的情境下，本文提出了采用因果学方法来消除不公平路径效应的模型，并利用深度学习和近似推理实现了一个广泛适用于复杂非线性场景的解决方案。

    Feb, 2018

  • SAfER: 高效稳健的神经网络推理的层级敏感性评估

    深度神经网络在计算机视觉任务中表现出色，但对于关键应用，需要研究它们的行为和决策原因。本文提出了调查 DNN 层次重要性的方法，旨在估算其对准确性的敏感性，并提出了用于评估该方法的新数据集，为提高 DNN 效率和硬件故障鲁棒性（如位交换）提供了参考。

    Aug, 2023

  • 深度神经网络测试

    提出了 4 种新的测试标准，为结构性特征和语义定制的深度神经网络，并通过对当前最先进的人工神经网络数据集进行实验来验证其有效性，以平衡测试用例生成的计算成本和发现缺陷的能力，同时在代理中使用对抗性例子。

    Mar, 2018

  • 使用反事实推论的因果视角评估和缓解图像分类器中的偏差

    该研究提出了一种利用结构原因模型和 ALI 生成对抗学习算法，生成能满足图像属性之间因果关系约束的反事实例，用于解释和评估神经网络模型的偏差，并使用反事实正则化方法消除分类器训练数据中对皮肤和头发颜色等多维属性的偏见。

    Sep, 2020

  • 使用反事实模拟测试发现变压器和卷积神经网络之间的差异

    本研究提出了反事实模拟测试的框架，并使用构建的逼真合成场景研究深度神经网络对特定情景变化的鲁棒性问题，发现随着网络规模和数据规模多样性的增加，所有网络的鲁棒性均有所提高，并通过对比发现 ConvNext 对姿态和尺度变化更加鲁棒，而 Swin 对部分遮挡更加鲁棒，同时发布了包含 272k 张自然变形的对象图片的数据集（NVD）

    Nov, 2022

  • 一种基于场景的功能测试方法，用于提高深度神经网络性能

    提出了一种基于情景的功能测试方法，通过迭代测试机器学习模型来诊断和治疗弱点，其中治疗包括使用转移学习技术进行再训练，实验结果表明该方法可以显著提高自动驾驶汽车感知系统的神经网络模型性能。

    Jul, 2023

  • STEEX: 带有语义信息的反事实解释调节器

    本文提出了一种新型的生成式反事实性解释框架，旨在生产可信度高、修改最小、保留结构的高质量图像。同时介绍了 “针对区域的反事实性解释” 概念和相应框架，通过指定图像的语义区域来指导反事实性产生，证明了该框架在高质量人像和复杂场景等数据集上的有效性。

    Nov, 2021

  • 针对表格数据的学习模型无关反事实解释

    本文提出了一种新的方法 ——C-CHVAE，该方法可以生成可实现的反事实解释，以更好地满足反事实解释的质量要求。

    Oct, 2019