为什么 ReLU 网络在训练数据远离时会产生高置信度的预测，以及如何减轻这个问题

CVPRDec, 2018

为什么 ReLU 网络在训练数据远离时会产生高置信度的预测，以及如何减轻这个问题

Why ReLU networks yield high-confidence predictions far away from the training data and how to mitigate the problem

Matthias Hein, Maksym Andriushchenko, Julian Bitterwolf

TL;DR通过提出类似于对抗训练的新型鲁棒性优化技术，使得神经网络分类器可以在训练数据附近做出高置信度的预测，同时在远离训练数据的区域内降低置信度。

Abstract

Classifiers used in the wild, in particular for safety-critical systems, should not only have good generalization properties but also should know when they don't know, in particular make low confidence predictions far away from the training data. We show that relu type neural networks

neural network relu robust optimization adversarial training classification

发现论文，激发创造

构建神经网络：确保神经网络知道它们不知道的领域

本文提出了一种新的方法以应对激活函数为 ReLU 的神经网络在数据训练远离时会过度自信并有可能失去安全性的问题，该方法可以提供数学上的低置信预测同时提供第一个在一个分布外点附近的低置信预测的证书。实验表明，该方法能够在保留 OOS 性能的同时，保证其性能。

Sep, 2019

预防在点估计判别神经网络中对远离数据的任意高自信度

通过在神经网络输出中添加额外类别的逻辑回归值，我们解决了过度自信并提高对边界测试数据的性能表现。

Nov, 2023

通过最大线性区域的优化证明 ReLU 网络的鲁棒性

研究了神经网络分类器在安全关键系统中的应用，提出了一种对 ReLU 网络的正则化方案，使分类器的鲁棒性得到提升，并在实验中取得了较好的效果。

Oct, 2018

针对 ReLU 网络的对抗性样本的鲁棒性证书

本文提出一种基于深度 ReLU 网络的攻击不可知的稳健性证书，用于多标签分类问题，通过利用 ReLU 网络的分段线性结构，提出了两个距离下界，分别为单纯形证书和决策边界证书，其中单纯形证书具有闭合形式，可微性和计算速度快的特点，并在 MNIST 数据集上验证其理论有效性。

Feb, 2019

即使轻微地贝叶斯化，也能修复 ReLU 网络中的过度自信

本文提出了一种基于贝叶斯推断的神经网络未来预测方法，该方法通过对 ReLU 网络权重进行近似高斯分布的理论分析和实验验证，同时发现了使用简单的贝叶斯近似方法可以解决 ReLU 网络的过度自信问题。

Feb, 2020

学习 ReLU 网络以高均匀精度是不可解的

本文中，我们在非线性神经网络学习问题上，通过精确量化每个训练算法所需的最小训练样本数量，以保证目标类中包含或由预定义结构的 ReLU 神经网络的高精度，从而证明了在非常一般的假设下，训练样本的最小数量随着网络结构的深度和输入维度呈指数级增长。

May, 2022

理解 Softmax 的置信度和不确定性

本研究探讨神经网络在预测远离训练数据分布的数据时，未能增加其不确定性的现象，并找出了两种隐含的偏见，从而鼓励 softmax 置信度与认识不确定性相关，并发现预训练 / 微调网络可以减少训练数据和超出分布数据之间的重叠。

Jun, 2021

两层 ReLU 卷积神经网络在 XOR 数据中的良性过拟合

通过梯度下降训练的过参数化的修正线性单元卷积神经网络在一定的样本复杂度和信噪比条件下能够实现接近贝叶斯最优准确率，并且能够高效地学习存在高度相关特征的异或类型分类任务。

Oct, 2023

带有认证网络的通用逼近

本文证明了对于任何连续函数 f，都存在一个网络 n，使得 n 能够逼近 f 并在 n 中通过简单区间传播得到的在区间 B 上的输出结果能够任意接近 f 在 B 上的最优值。这个结果可视为针对间隔认证 ReLU 网络的通用逼近定理。据我们所知，这是首次证明存在准确的间隔认证网络。

Sep, 2019

谨慎深度学习

本文提出了基于条件概率密度 p (x|y) 而非 p (y|x) 的符合性预测集合（conformal prediction sets）来消除分类模型中的傲慢偏差（hubristic bias），该模型在不确定时会输出空集，能很好地应对对抗攻击（adversarial attacks）。在 ImageNet ILSVRC 数据集和 CelebA、IMDB-Wiki 人脸数据集上以高维卷积神经网络为特征进行的实验结果表明它的性能优秀。

May, 2018