Dec, 2018

通过产生自信的非分布样例来构建鲁棒的分类器

PDF
TL;DR本文介绍了一种基于 GAN 的方法来构建鲁棒分类器，采用 GAN 显式生成分类器可以确信的、高熵的样本，并让分类器在这些样本上最大化熵，相对于现有最先进技术在手写字符和各种自然图像数据集上展示了该方法的有效性。
deep learning modelsbayesian neural networksregularization termganclassifier
发现论文，激发创造
  • 基于生成模型的不确定性感知深度分类器

    本篇研究提出了一种神经网络模型，该模型能够同时表达 aleatoric 和 epistemic 不确定性，区分特征空间的决策边界和 “out-of-distribution” 区域。在训练过程中，通过集成变分自编码器和生成对抗网络的方法生成了 “out-of-distribution” 样本。通过在多个数据集上进行实验，表明该方法提供了更好的不确定性估计，并且在识别对抗样本时表现出优异的表现。

    Jun, 2020

  • 训练置信度校准的分类器用于检测离分布样本

    本文提出了一种新的分类器训练方法，通过对深度神经网络引入两个额外的术语来增强分类器的推断性能，并同时训练分类和生成神经网络以解决样本的分布问题，该方法在多个流行的图像数据集上通过使用深度卷积神经网络的实验证明了其有效性。

    Nov, 2017

  • 一种简单的统一框架用于检测样本的离群点和对抗攻击

    本文提出了一种简单而有效的方法，可用于检测任何异常样本，适用于任何预训练的 softmax 神经分类器，在高鲁棒性方面表现优越，同时在检测离群样本和对抗样本方面都取得了最先进的性能，在分类增量学习中有着更广泛的应用。

    Jul, 2018

  • 通过任务感知的生成性不确定性实现对于超出分布输入的鲁棒性

    本文提出了一种结合生成模型和模型不确定性的不确定性感知机器人感知方法，用于处理源自超出分布状态的不确定性。

    Dec, 2018

  • 可证明鲁棒性的无需付出昂贵代价的异常检测

    研究使用机器学习技术的安全关键系统需要可靠的不确定性评估。本研究发现，深度神经网络在处理分布外数据时可能会产生过度自信的预测。本研究提出了一种具有保护分布外数据和高准确度的分类器，并提供所有实验代码。

    Jun, 2021

  • 自信度分类器用于异常检测的分析

    本文针对图像分类中的 ODD 问题，分析研究了最近提出的使用置信分类器来检测 ODD 样本的方法，并结论表明该方法仍会对偏离训练数据分布的 OOD 样本产生高置信度，建议新增 “拒绝” 类别来训练分类器。

    Apr, 2019

  • 分类器中的数据分布外检测 via 生成

    本文中，我们通过研究生成 “有效” 的 OOD 样本的复杂性，分析了调整之前的方法的可行性。我们提出了一种使用流形学习网络（例如变分自编码器）生成这些样本的新算法，然后训练一个 $n+1$ 分类器来检测 OOD，其中第 $n+1$ 类代表 OOD 样本。我们在 MNIST 和 Fashion-MNIST 数据集上将我们的方法与几种最近的基于分类器的 OOD 检测器进行了比较，实验表明我们的方法总体上表现更好。

    Oct, 2019

  • BaCOUn：具有分布外不确定性的贝叶斯分类器

    使用贝叶斯框架在深度分类器上进行推理，从而获得可靠的不确定性估计。将一个生成器与基于边界点的特征组合起来，用于处理训练数据中的偏移问题。

    Jul, 2020

  • 马哈拉诺比斯感知训练用于外部分布检测

    在本研究中，我们提出了一种新的损失函数和网络训练方法，以提高密度感知的开放世界环境中对异常和越界样本的检测能力，并在 CIFAR-10 数据集上进行了验证，将相对马氏距离方法在远距离越界任务中的错误正例率降低了 50% 以上。

    Nov, 2023

  • 应对分布偏移鲁棒性的有效基线

    本研究通过在模型输入中添加专门的弃权类别，并在未经筛选的数据集中训练深度神经网络，建立有效分类器以识别无法归类的数据，并在图像和文本分类等领域上取得了良好表现。

    May, 2021