基于假设检验的选择性概率分类器
本文提出了一种用于估计贝叶斯分类器中的假阳性率的估计器,并对其进行了广泛的理论分析,包括一致性、无偏性、收敛速度和方差。此外,还通过利用去噪技术和 Nadaraya-Watson 估计器,开发了一种用于估计有噪声标签情况下的假阳性率的有效估计器。由于问题的对称性,我们的结果还能被直接应用于估计贝叶斯分类器的假阴性率。
Jan, 2024
本技术报告在安全关键应用中,研究了用于图像分类的经过训练的卷积神经网络(CNN)的验证结果。通过使用 ANSI/UL 4600 和 ISO 21448 等新标准,结合现有标准 EN 50128 和 EN 50129,证明了类似 Grade of Automation (GoA) 4 的货运自动列车系统确实可以被认证。此外,通过传感器 / 感知器融合,进行了系统级危险率的定量分析,以满足可接受的安全完整性等级(SIL-3)。对 CNN 模型进行了数学分析,从中识别出分类集群和等价类,划分了 CNN 的图像输入空间。利用这些集群和类别,介绍了一种新的统计测试方法,用于确定经过训练的 CNN 的剩余误差概率及其相关的上限置信度。我们认为,考虑到 CNN 模型的内部结构,这种灰箱方法对于证明统计测试全面覆盖了训练过的 CNN 及其神经元和层间映射是至关重要的。
Dec, 2023
本文提出了一种基于 logit 值分布的神经网络分类模型的不确定性预测和置信水平估计方法,可用于知识提取过程中的预测筛选,并在关系提取、命名实体识别和图像分类等任务中获得显著的提高。
Oct, 2022
该研究提出了一种概率证明框架 PROVEN,用于验证神经网络在输入加噪时的鲁棒性,可证明分类器的 top-1 预测在受限的 Lp 范数扰动下不会发生改变,证书是基于现有的神经网络鲁棒性验证框架,该方法在 MNIST 和 CIFAR 神经网络模型的实验中取得了 75% 的提升。
Dec, 2018
本文提出用 Augmented Lagrangian Method 来解决在临床应用中,由于类别不平衡所引起的深度神经网络二分类器可持续错分少量样本的问题。作者认为,可以通过将分类问题看做约束优化问题并引入一种新的约束条件,即将假阳性率降至最低,同时保证真阳性率较高,从而提高模型精度。本文在医学影像的二分类和多分类以及其他数据集上进行了实验,证明了该方法能够有效提高模型准确率。
Feb, 2021
本研究介绍了基于不确定性的深度狄利克雷神经网络可靠地评估模型置信度和预测错误,提出新的准则基于置信度分数匹配来学习正确预测和失败的真实类别概率,并在多个图像分类任务上取得了优于传统网络最大类概率的预测真实类别概率的实验结果。
Oct, 2020
此研究中,我们提出了一个结合对比预测技术和机器人 / 环境动力学模拟器的框架,用于调节警告系统,以可靠地提高机器人应用程序的安全性,并实现能够在较少的数据点下,保证误报率低于给定阈值的安全报警系统。
Sep, 2021
本文提出了一种基于 Correctness Ranking Loss 的深度神经网络训练方法,可以对类别概率进行显式的正序排名,提高置信度预测。该方法易于实现,不需要额外的计算代价,适用于现有体系结构,并且在分类基准数据集上表现良好。同时,还对置信度估计相关的任务,如超出分布检测和主动学习,具有相同的可靠性。
Jul, 2020
本文介绍了两种轻量级的方法,使具有概率性的深层网络的监督学习变得实用,首先,我们建议使用分类和回归的概率性输出层,其对现有网络只需进行最小的更改,其次,我们使用假设密度过滤(assumed density filtering)并展示如何将激活不确定性以实用的方式传播到整个网络中,这两种概率性网络保留了确定性网络的预测能力,但产生与其预测引起的经验误差相关的不确定性。
May, 2018