Aug, 2021

CODEs: 防止过度自信问题的Chamfer离群样本检测

HTML
PDF
TL;DR本文提出了一种名为CODEs的解决深度神经网络过于自信地预测过于分布样本的问题的方法，首先通过切片和粘贴操作生成种子OOD样本，再将其馈送到Chamfer生成对抗网络进行分布转换，在CODEs上抑制预测可以有效地缓解OOD过度自信问题，同时具有提高OOD检测和分类的实用性。
发现论文，激发创造
  • 神经网络中增强外部分布图像检测的可靠性

    本文提出ODIN方法用于有效检测神经网络中的OD图像，通过温度缩放和对输入加入小扰动，使得在分数分布上能够划分出OD和非OD图像，从而在多种网络架构和数据集上实现了新的性能提升。

    Jun, 2017

  • 神经网络的错误分布检测中学习置信度

    通过提出一种简单易实现、产生直观可解释输出的神经网络置信度学习方法，我们成功地实现了对神经网络预测错误的检测以及超出安全执行区域的检测，在该任务中表现优异，并在不需要额外标签或进入区别于正常数据集之外的样本的情况下超过了最近提出的指标构建方法。此外，我们还解决了置信度检测器校准问题，即我们证明被错误分类为正常数据集的正常样本是超出安全执行区域的样本的良好替代品。

    Feb, 2018

  • 利用内部数据和 Gram 矩阵检测非分布数据示例

    本文介绍了一种基于Gram矩阵的方法，可用于检测深度神经网络中的Out-of-Distribution异常案例，结合对于训练数据范围内对比每个值，其值与范围的关系进行的异常检测，无需访问OOD数据进行超参数微调，并可适用于任何预训练的softmax分类器，对于检测远离分布的Out-of-Distribution案例，该方法通常表现优于或等于现有的OOD检测方法。

    Dec, 2019

  • 神经网络的鲁棒性外部分布检测

    本文主要研究深度学习模型在检测 in-distribution 和 OOD inputs 时受到极小对抗扰动的影响，并提出了一种名为 ALOE 的有效算法，该算法通过将模型暴露于经过对抗训练的 inlier 和 outlier examples 中的方式，可以灵活地与现有方法相结合，提高现有的 Out-of-distribution detection 方法的鲁棒性，CIFAR-10 和 CIFAR-100 数据集的 AUROC 分别提高了58.4% 和46.59%。

    Mar, 2020

  • ATOM: 使用异常值挖掘强化外部数据分布检测

    本研究提出了一种理论上动机驱动、运用了有意义外部数据挖掘的对抗训练算法 ATOM，从而提高了深度学习模型的Out-of-Distribution Detection能力，在包括对抗式输入在内的广泛经典OOD检测任务中，实现了最佳性能。

    Jun, 2020

  • 可证明鲁棒性的无需付出昂贵代价的异常检测

    研究使用机器学习技术的安全关键系统需要可靠的不确定性评估。本研究发现，深度神经网络在处理分布外数据时可能会产生过度自信的预测。本研究提出了一种具有保护分布外数据和高准确度的分类器，并提供所有实验代码。

    Jun, 2021

  • 使用预训练转换器的伪异常值暴露进行对外分布检测

    我们提出了一种名为Pseudo Outlier Exposure（POE）的简单但有效的方法，通过顺序遮盖与ID类相关的令牌来构建一个替代性的OOD数据集，该替代性OOD样本与ID数据具有相似的表示，可以在训练拒绝网络方面发挥最有效的作用，与最先进的算法进行全面比较，在几个文本分类基准测试中证明了POE的竞争力。

    Jul, 2023

  • GAIA：基於梯度歸因異常分析的異常檢測

    我们提供了一种创新的观点，利用模型尝试解释预测决策时产生的不确定性来量化内分布数据与外分布数据之间的差异，并通过引入异常定义和GAIA方法，有效地检测并降低外分布数据在神经网络中的影响。

    Nov, 2023

  • 离群数据：对抗样本的熟悉——综述

    深度神经网络在现实应用中会遇到来自分布失真和对抗性攻击的数据，本综述聚焦于这两个领域的交叉研究，探讨如何通过鲁棒的分布失真检测和统一的鲁棒性进行对抗性攻击和对分布失真数据的健壮处理。

    Apr, 2024

  • 通过捕捉极端激活来减轻对于外部分布检测中的过度自信

    通过测量神经网络次最后一层的极端激活值并利用这一特征改进各种OOD检测基线，我们解决了模型“过度自信”现象造成的OOD检测问题，在各类实验中得到了显著提升，不损害任何场景的性能。

    May, 2024